技術(shù)
導(dǎo)讀:2024年9月14日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》公開征求意見的通知。
“真作假時(shí)假亦真,假作真時(shí)真亦假。”近年來,隨著人工智能的高速發(fā)展,互聯(lián)網(wǎng)上的文章、圖片、視頻等等,都極有可能是通過人工智能生成的作品,變得越來越真假難辨了。
對(duì)此,2024年9月14日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》公開征求意見的通知。
《辦法》共十四條,既界定了人工智能生成合成內(nèi)容的基本概念,同時(shí)針對(duì)服務(wù)提供者、傳播平臺(tái)、應(yīng)用程序分發(fā)平臺(tái)和用戶分別規(guī)定了具體標(biāo)識(shí)要求,為各相關(guān)主體落實(shí)合規(guī)指明了方向,旨在促進(jìn)人工智能健康發(fā)展,規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí),保護(hù)公民、法人和其他組織合法權(quán)益,維護(hù)社會(huì)公共利益。
人工智能生成合成內(nèi)容標(biāo)識(shí)辦法
(征求意見稿)
第一條為促進(jìn)人工智能健康發(fā)展,規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí),保護(hù)公民、法人和其他組織合法權(quán)益,維護(hù)社會(huì)公共利益,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律、行政法規(guī)和部門規(guī)章,制定本辦法。
第二條符合《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者(以下簡(jiǎn)稱“服務(wù)提供者”)開展人工智能生成合成內(nèi)容標(biāo)識(shí)的,適用本辦法。
行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用人工智能生成合成技術(shù),未向境內(nèi)公眾提供服務(wù)的,不適用本辦法的規(guī)定。
第三條人工智能生成合成內(nèi)容是指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。
人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。
顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的,以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識(shí)。
隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的,不易被用戶明顯感知到的標(biāo)識(shí)。
第四條服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的,應(yīng)當(dāng)按照下列要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)。
(一)在文本的起始、末尾、中間適當(dāng)位置添加文字提示或通用符號(hào)提示等標(biāo)識(shí),或在交互場(chǎng)景界面或文字周邊添加顯著的提示標(biāo)識(shí);
(二)在音頻的起始、末尾或中間適當(dāng)位置添加語音提示或音頻節(jié)奏提示等標(biāo)識(shí),或在交互場(chǎng)景界面中添加顯著的提示標(biāo)識(shí);
?。ㄈ┰趫D片的適當(dāng)位置添加顯著的提示標(biāo)識(shí);
?。ㄋ模┰谝曨l起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí),可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識(shí);
?。ㄎ澹┏尸F(xiàn)虛擬場(chǎng)景時(shí),應(yīng)當(dāng)在起始畫面的適當(dāng)位置添加顯著的提示標(biāo)識(shí),可在虛擬場(chǎng)景持續(xù)服務(wù)過程中的適當(dāng)位置添加顯著的提示標(biāo)識(shí);
?。┢渌珊铣煞?wù)場(chǎng)景應(yīng)當(dāng)根據(jù)自身應(yīng)用特點(diǎn)添加具有顯著提示效果的顯式標(biāo)識(shí)。
服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時(shí),應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。
第五條服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí),隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號(hào)等制作要素信息。
鼓勵(lì)服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識(shí)。
文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息,用于記錄文件來源、屬性、用途、版權(quán)等信息內(nèi)容。
第六條提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施,規(guī)范生成合成內(nèi)容傳播活動(dòng)。
?。ㄒ唬?yīng)當(dāng)核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí),對(duì)于含有隱式標(biāo)識(shí)的,應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),明確提醒用戶該內(nèi)容屬于生成合成內(nèi)容;
(二)文件元數(shù)據(jù)中未核驗(yàn)到隱式標(biāo)識(shí),但用戶聲明為生成合成內(nèi)容的,應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),提醒用戶該內(nèi)容可能為生成合成內(nèi)容;
(三)文件元數(shù)據(jù)中未核驗(yàn)到隱式標(biāo)識(shí),用戶也未聲明為生成合成內(nèi)容,但提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者檢測(cè)到顯式標(biāo)識(shí)或其他生成合成痕跡的,可識(shí)別為疑似生成合成內(nèi)容,應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),提醒用戶該內(nèi)容疑似為生成合成內(nèi)容;
(四)對(duì)于確為、可能和疑似生成合成內(nèi)容的,應(yīng)當(dāng)在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺(tái)名稱或編碼、內(nèi)容編號(hào)等傳播要素信息;
?。ㄎ澹┨峁┍匾臉?biāo)識(shí)功能,并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。
第七條互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或上線審核時(shí),應(yīng)當(dāng)核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。
第八條服務(wù)提供者應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容,并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。
第九條如用戶需要服務(wù)提供者提供沒有添加顯式標(biāo)識(shí)的生成合成內(nèi)容,可在通過用戶協(xié)議明確用戶的標(biāo)識(shí)義務(wù)和使用責(zé)任后,提供不含顯式標(biāo)識(shí)的生成合成內(nèi)容,并留存相關(guān)日志不少于六個(gè)月。
第十條用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時(shí),應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。
任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí),不得為他人實(shí)施上述惡意行為提供工具或服務(wù),不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。
第十一條服務(wù)提供者應(yīng)當(dāng)按照有關(guān)強(qiáng)制性國家標(biāo)準(zhǔn)的要求進(jìn)行標(biāo)識(shí)。
第十二條服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí),應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料,并加強(qiáng)標(biāo)識(shí)信息共享,為防范打擊相關(guān)違法犯罪活動(dòng)提供支持和幫助。
第十三條違反本辦法規(guī)定,未對(duì)生成合成內(nèi)容進(jìn)行標(biāo)識(shí)造成嚴(yán)重后果的,由網(wǎng)信等有關(guān)主管部門按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處罰。
第十四條本辦法自2024年 月 日起施行。
來源:國家互聯(lián)網(wǎng)信息辦公室網(wǎng)站