|
近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內容標識辦法》（以下簡(jiǎn)稱(chēng)《標識辦法》），該辦法將于2025年9月1日起施行。這一舉措旨在促進(jìn)人工智能的健康發(fā)展，規范人工智能生成合成內容的標識，保護公民、法人和其他組織的合法權益，維護社會(huì )公共利益。 隨著(zhù)生成式人工智能、深度合成等新技術(shù)的快速發(fā)展，利用這些技術(shù)生成合成的文本、圖片、音頻、視頻等信息在網(wǎng)絡(luò )上廣泛傳播，為經(jīng)濟發(fā)展、網(wǎng)上內容豐富和公眾生活便利帶來(lái)了諸多益處。然而，同時(shí)也出現了虛假信息傳播、網(wǎng)絡(luò )生態(tài)破壞等問(wèn)題，引發(fā)了社會(huì )各界的廣泛關(guān)注。 為了積極響應社會(huì )關(guān)切和群眾關(guān)心，四部門(mén)聯(lián)合制定了《標識辦法》�！稑俗R辦法》明確規定了人工智能生成合成內容的定義，即利用人工智能技術(shù)生成、合成的各類(lèi)信息，并指出這些內容的標識包括顯式標識和隱式標識兩種。顯式標識以文字、聲音、圖形等方式呈現，可以被用戶(hù)明顯感知；而隱式標識則通過(guò)技術(shù)措施在文件數據中添加，不易被用戶(hù)直接感知。 《標識辦法》對服務(wù)提供者提出了具體要求。對于提供的生成合成服務(wù)，服務(wù)提供者需要在適當位置添加顯著(zhù)的顯式標識，如文本中的文字提示、音頻中的語(yǔ)音提示、圖片和視頻中的顯著(zhù)標識等。同時(shí)，服務(wù)提供者還需在生成合成內容的文件元數據中添加隱式標識，包含生成合成內容屬性信息、服務(wù)提供者名稱(chēng)或編碼、內容編號等制作要素信息。此外，鼓勵服務(wù)提供者在生成合成內容中添加數字水印等形式的隱式標識，以增強標識的安全性和可追溯性。 對于提供網(wǎng)絡(luò )信息內容傳播服務(wù)的服務(wù)提供者，《標識辦法》也提出了明確要求。這些服務(wù)提供者需要核驗文件元數據中是否含有隱式標識，并根據不同情況在發(fā)布內容周邊添加顯著(zhù)的提示標識，以提醒公眾該內容屬于或可能屬于生成合成內容。同時(shí)，服務(wù)提供者還需提供必要的標識功能，并提醒用戶(hù)主動(dòng)聲明發(fā)布內容中是否包含生成合成內容。 為了確�！稑俗R辦法》的有效實(shí)施，互聯(lián)網(wǎng)應用程序分發(fā)平臺在應用程序上架或上線(xiàn)審核時(shí)，將要求互聯(lián)網(wǎng)應用程序服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)，并核驗其生成合成內容標識相關(guān)材料。此外，服務(wù)提供者還需在用戶(hù)服務(wù)協(xié)議中明確說(shuō)明生成合成內容標識的方法、樣式等規范內容，并提示用戶(hù)仔細閱讀并理解相關(guān)的標識管理要求。 對于違反《標識辦法》規定的行為，網(wǎng)信、電信、公安和廣播電視等有關(guān)主管部門(mén)將依據職責，按照有關(guān)法律、行政法規、部門(mén)規章的規定予以處理。任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，也不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，更不得通過(guò)不正當標識手段損害他人合法權益。 值得一提的是，為了更好地指導相關(guān)主體規范開(kāi)展標識活動(dòng)，強制性國家標準《網(wǎng)絡(luò )安全技術(shù) 人工智能生成合成內容標識方法》也已由國家市場(chǎng)監督管理總局、國家標準化管理委員會(huì )正式批準發(fā)布，并將于2025年9月1日與《標識辦法》同步實(shí)施。此外，全國網(wǎng)絡(luò )安全標準化技術(shù)委員會(huì )還組織起草了配套實(shí)踐指南，為相關(guān)主體開(kāi)展文件元數據隱式標識提供了編碼指引。 《標識辦法》的發(fā)布和實(shí)施，將有力推動(dòng)人工智能產(chǎn)業(yè)的健康有序發(fā)展，構建開(kāi)放、公正、有效的治理機制，營(yíng)造公平有序的發(fā)展環(huán)境。同時(shí)，也將有效防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為，保護公民、法人和其他組織的合法權益。 |
