不得惡意刪除、篡改、偽造、隱匿標識!事關(guān)人工智能生成合成內(nèi)容標識,新規(guī)征求意見
2024-09-14 10:15 星期六
財聯(lián)社
提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應(yīng)當采取措施,規(guī)范生成合成內(nèi)容傳播活動。

財聯(lián)社9月14日訊,國家互聯(lián)網(wǎng)信息辦公室關(guān)于《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》公開征求意見的通知。

為規(guī)范人工智能生成合成內(nèi)容標識,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權(quán)益,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī),國家互聯(lián)網(wǎng)信息辦公室起草了《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》,現(xiàn)向社會公開征求意見。公眾可通過以下途徑和方式提出反饋意見:

1.通過電子郵件方式發(fā)送至:biaoshi@cac.gov.cn。

2.通過信函方式將意見寄至:北京市西城區(qū)車公莊大街11號國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)管理技術(shù)局,郵編100044,并在信封上注明“人工智能生成合成內(nèi)容標識辦法征求意見”。

意見反饋截止時間為2024年10月14日。

附件:人工智能生成合成內(nèi)容標識辦法(征求意見稿)

國家互聯(lián)網(wǎng)信息辦公室

2024年9月14日

人工智能生成合成內(nèi)容標識辦法

(征求意見稿)

第一條 為促進人工智能健康發(fā)展,規(guī)范人工智能生成合成內(nèi)容標識,保護公民、法人和其他組織合法權(quán)益,維護社會公共利益,根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等法律、行政法規(guī)和部門規(guī)章,制定本辦法。

第二條 符合《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者(以下簡稱“服務(wù)提供者”)開展人工智能生成合成內(nèi)容標識的,適用本辦法。

行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等研發(fā)、應(yīng)用人工智能生成合成技術(shù),未向境內(nèi)公眾提供服務(wù)的,不適用本辦法的規(guī)定。

第三條 人工智能生成合成內(nèi)容是指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。

人工智能生成合成內(nèi)容標識包括顯式標識和隱式標識。

顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的,以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標識。

隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的,不易被用戶明顯感知到的標識。

第四條 服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的,應(yīng)當按照下列要求對生成合成內(nèi)容添加顯式標識。

(一)在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識,或在交互場景界面或文字周邊添加顯著的提示標識;

(二)在音頻的起始、末尾或中間適當位置添加語音提示或音頻節(jié)奏提示等標識,或在交互場景界面中添加顯著的提示標識;

(三)在圖片的適當位置添加顯著的提示標識;

(四)在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識,可在視頻末尾和中間適當位置添加顯著的提示標識;

(五)呈現(xiàn)虛擬場景時,應(yīng)當在起始畫面的適當位置添加顯著的提示標識,可在虛擬場景持續(xù)服務(wù)過程中的適當位置添加顯著的提示標識;

(六)其他生成合成服務(wù)場景應(yīng)當根據(jù)自身應(yīng)用特點添加具有顯著提示效果的顯式標識。

服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時,應(yīng)當確保文件中含有滿足要求的顯式標識。

第五條 服務(wù)提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識,隱式標識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號等制作要素信息。

鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標識。

文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息,用于記錄文件來源、屬性、用途、版權(quán)等信息內(nèi)容。

第六條 提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應(yīng)當采取措施,規(guī)范生成合成內(nèi)容傳播活動。

(一)應(yīng)當核驗文件元數(shù)據(jù)中是否含有隱式標識,對于含有隱式標識的,應(yīng)當采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識,明確提醒用戶該內(nèi)容屬于生成合成內(nèi)容;

(二)文件元數(shù)據(jù)中未核驗到隱式標識,但用戶聲明為生成合成內(nèi)容的,應(yīng)當采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識,提醒用戶該內(nèi)容可能為生成合成內(nèi)容;

(三)文件元數(shù)據(jù)中未核驗到隱式標識,用戶也未聲明為生成合成內(nèi)容,但提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者檢測到顯式標識或其他生成合成痕跡的,可識別為疑似生成合成內(nèi)容,應(yīng)當采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識,提醒用戶該內(nèi)容疑似為生成合成內(nèi)容;

(四)對于確為、可能和疑似生成合成內(nèi)容的,應(yīng)當在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺名稱或編碼、內(nèi)容編號等傳播要素信息;

(五)提供必要的標識功能,并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。

第七條 互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或上線審核時,應(yīng)當核驗服務(wù)提供者是否按要求提供生成合成內(nèi)容標識功能。

第八條 服務(wù)提供者應(yīng)當在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)范內(nèi)容,并提示用戶仔細閱讀并理解相關(guān)的標識管理要求。

第九條 如用戶需要服務(wù)提供者提供沒有添加顯式標識的生成合成內(nèi)容,可在通過用戶協(xié)議明確用戶的標識義務(wù)和使用責任后,提供不含顯式標識的生成合成內(nèi)容,并留存相關(guān)日志不少于六個月。

第十條 用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時,應(yīng)當主動聲明并使用平臺提供的標識功能進行標識。

任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識,不得為他人實施上述惡意行為提供工具或服務(wù),不得通過不正當標識手段損害他人合法權(quán)益。

第十一條 服務(wù)提供者應(yīng)當按照有關(guān)強制性國家標準的要求進行標識。

第十二條 服務(wù)提供者在履行算法備案、安全評估等手續(xù)時,應(yīng)當按照本辦法提供生成合成內(nèi)容標識相關(guān)材料,并加強標識信息共享,為防范打擊相關(guān)違法犯罪活動提供支持和幫助。

第十三條 違反本辦法規(guī)定,未對生成合成內(nèi)容進行標識造成嚴重后果的,由網(wǎng)信等有關(guān)主管部門按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處罰。

第十四條 本辦法自2024年 月 日起施行。

收藏
137.52W
我要評論
歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論
要聞
股市
關(guān)聯(lián)話題
4.25W 人關(guān)注
1.53W 人關(guān)注