財聯(lián)社12月27日電,國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法(征求意見稿)》,現(xiàn)向社會公開征求意見。意見稿提出,提供者開展預訓練、優(yōu)化訓練等數(shù)據(jù)處理活動時,應當加強訓練數(shù)據(jù)管理,遵守以下規(guī)定:
(一)使用符合社會主義核心價值觀、體現(xiàn)中華優(yōu)秀傳統(tǒng)文化的數(shù)據(jù)集;
(二)對訓練數(shù)據(jù)開展清洗、標注,增強訓練數(shù)據(jù)的透明度、可靠性,防范數(shù)據(jù)投毒、數(shù)據(jù)篡改等行為;
(三)提高訓練數(shù)據(jù)的多樣性,通過負向采樣、對抗訓練等手段,提升模型生成內容安全性;
(四)利用合成數(shù)據(jù)進行模型訓練和關鍵能力優(yōu)化時,應當評估合成數(shù)據(jù)安全性;
(五)加強對訓練數(shù)據(jù)的日常檢查,定期對數(shù)據(jù)進行迭代升級,持續(xù)優(yōu)化產(chǎn)品和服務的性能;
(六)保障訓練數(shù)據(jù)來源合法、可追溯,采取必要措施保障數(shù)據(jù)安全,防范數(shù)據(jù)泄露風險。