《人工智能生成合成內(nèi)容標(biāo)識辦法》從今年9月1日起將正式施行，“標(biāo)識辦法”提出強制添加顯式和隱式標(biāo)識等規(guī)范要求，所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”，再也不能偷偷摸摸“以假亂真”了！那么，AI生成合成的內(nèi)容標(biāo)識由誰來添加？該怎么添加呢？對那些利用AI工具進行虛假信息傳播的“營銷號”能起到遏制作用嗎？
專家解讀：
AI生成內(nèi)容要“亮明身份”
據(jù)中國人民大學(xué)未來法治研究院執(zhí)行院長張吉豫介紹，“標(biāo)識辦法”明確了相關(guān)主體的責(zé)任義務(wù)，包括服務(wù)提供者需在內(nèi)容生成、傳播、下載等環(huán)節(jié)確保標(biāo)識完整，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺需審核應(yīng)用是否合規(guī)添加標(biāo)識，個人用戶發(fā)布生成內(nèi)容時需要主動聲明。
中國人民大學(xué)未來法治研究院執(zhí)行院長 張吉豫：它也是對隱式標(biāo)識進行了具體細(xì)化，特別說明了在目前的技術(shù)情況下，至少要對這種文件的元數(shù)據(jù)進行標(biāo)識，就是在文件中進行描述的數(shù)據(jù)，用戶看不到，這樣隱式標(biāo)識就不影響用戶的使用，又起到了標(biāo)識重要信息的作用。那么對于一些比如說可能引起公眾的混淆，甚至比較重要的誤解的這樣的一些重要的內(nèi)容就需要去添加顯式的標(biāo)識。
據(jù)張吉豫介紹，針對個人用戶借助AI進行文字創(chuàng)作時，如果不存在侵犯個人、企業(yè)、社會等主體利益的情況下，用戶則不需進行專門的標(biāo)識。但是，如果借助AI生成的文字內(nèi)容涉及模仿某人的話語表達(dá)、模仿媒體進行新聞發(fā)布，或者模仿政府部門發(fā)布相關(guān)公告等，這些容易讓人對客觀事實產(chǎn)生誤解、混淆的內(nèi)容，都必須進行顯式標(biāo)識。
張吉豫介紹，現(xiàn)在人工智能技術(shù)還都在發(fā)展，相應(yīng)的檢測風(fēng)險防范的技術(shù)還在發(fā)展中，所以目前來講，我們也不能說它是一個終極的辦法，只能說其實是在現(xiàn)在的技術(shù)條件之下采取的一個考慮到發(fā)展應(yīng)用與安全風(fēng)險防控，相平衡的這樣的一種目前階段比較良好的辦法。
將對行業(yè)和個人用戶產(chǎn)生哪些影響？
據(jù)記者了解，截至2024年12月31日，我國已經(jīng)有302款生成式人工智能服務(wù)在國家網(wǎng)信辦完成備案；生成式人工智能產(chǎn)品的用戶規(guī)模達(dá)2.3億人。那么，“標(biāo)識辦法”的施行會對行業(yè)、個人用戶，以及相關(guān)技術(shù)的發(fā)展帶來哪些影響呢？為什么要在半年之后才施行呢？我們繼續(xù)聽聽專家的解讀。
據(jù)專家介紹，在“標(biāo)識辦法”的要求下，標(biāo)識的存在也會對大規(guī)模搬運人工智能直接生成內(nèi)容的行為進行攔截，讓內(nèi)容平臺有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運營成本。
張吉豫表示，對于整個網(wǎng)絡(luò)空間、數(shù)字空間內(nèi)容的真實性會有更大的促進，那也是我們的自媒體可以利用人工智能技術(shù)去使得自己視頻更加出彩，但是不要用它們?nèi)ブ圃煲恍┨摷俚男侣剚聿┑醚矍?，所以是引?dǎo)廣大的自媒體可以更積極地利用人工智能技術(shù)。
專家介紹，“標(biāo)識辦法”的施行有利于公平競爭和有效管理：
強制“標(biāo)識”有利于保護傳統(tǒng)內(nèi)容產(chǎn)業(yè)，能在一定程度上降低AI技術(shù)帶來的沖擊；
通過標(biāo)識可以追溯AI生成內(nèi)容的來源，減少因AI生成內(nèi)容引發(fā)的侵權(quán)、詐騙等問題，維護個人隱私和財產(chǎn)安全。
據(jù)記者了解，作為我國人工智能領(lǐng)域首部“辦法+強標(biāo)”的組合拳，強制性的國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》將于9月1日與《人工智能生成合成內(nèi)容標(biāo)識辦法》同步施行。
張吉豫介紹，在內(nèi)容生成方這一點，它既需要去進行顯著的標(biāo)識和一些隱性的標(biāo)識，同時它也要為用戶去提供加入顯著標(biāo)識，同時因為辦法里面也要求了傳播平臺也需要去部署相應(yīng)的對標(biāo)識的檢測，所以這樣的一些技術(shù)措施的部署還是需要一定的時間準(zhǔn)備。(來源：央視新聞客戶端)