近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》。辦法聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點(diǎn)，通過標(biāo)識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為，將于2025年9月1日起施行。

專家認(rèn)為，辦法是我國推進(jìn)人工智能領(lǐng)域安全治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措，標(biāo)志著我國在生成式人工智能領(lǐng)域邁出了構(gòu)建安全可信生態(tài)的關(guān)鍵一步。

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音頻、視頻等信息提供了便利工具。

“然而，人工智能生成合成內(nèi)容日益逼真，也催生虛假消息傳播、身份信息冒充、惡意內(nèi)容生成等新型安全風(fēng)險(xiǎn)，并削弱著公眾對網(wǎng)絡(luò)傳播內(nèi)容的信任根基?！敝袊こ淘涸菏?、浙江大學(xué)教授陳純認(rèn)為，面對人工智能安全治理這一世界性難題，四部門適時(shí)出臺《人工智能生成合成內(nèi)容標(biāo)識辦法》，配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)　人工智能生成合成內(nèi)容標(biāo)識方法》也同時(shí)發(fā)布，成為保障人工智能時(shí)代網(wǎng)絡(luò)生態(tài)安全有序的關(guān)鍵手段。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，辦法重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭打造可信賴的人工智能技術(shù)。

——針對服務(wù)提供者，辦法明確應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識。

——針對互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺，辦法提出在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)，并核驗(yàn)其生成合成內(nèi)容標(biāo)識相關(guān)材料。

——針對用戶，辦法要求使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進(jìn)行標(biāo)識。