法治日?qǐng)?bào)全媒體見(jiàn)習(xí)記者 李兆娣

2024年4月16日，中國(guó)社會(huì)科學(xué)院國(guó)情調(diào)研重大項(xiàng)目《我國(guó)人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研》起草組（以下簡(jiǎn)稱(chēng)“起草組”）發(fā)布《人工智能示范法2.0（專(zhuān)家建議稿）》（以下簡(jiǎn)稱(chēng)《示范法》2.0）?！度斯ぶ悄苁痉斗?.0（專(zhuān)家建議稿）》已于2023年8月15日全球首發(fā)。

中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝在起草組主持起草工作，他向法治網(wǎng)記者介紹，《示范法》并非正式法律法規(guī)，而是由學(xué)界、業(yè)界多方研討后形成的帶有示范和建議性質(zhì)的法律文本，發(fā)布《示范法》2.0，旨在提出治理方案，助力我國(guó)人工智能（簡(jiǎn)稱(chēng)“AI”）立法工作。

北京大學(xué)人工智能研究院雙聘教授、中國(guó)科學(xué)技術(shù)法學(xué)會(huì)常務(wù)副會(huì)長(zhǎng)兼秘書(shū)長(zhǎng)張平和周輝一致認(rèn)為，AI治理必須堅(jiān)持智能向善，均衡發(fā)展與安全。

據(jù)周輝介紹，《示范法》2.0進(jìn)一步提出構(gòu)建知識(shí)產(chǎn)權(quán)創(chuàng)新規(guī)則，擬構(gòu)建“新避風(fēng)港規(guī)則”。

焦慮

自2022年末，以ChatGPT為代表的生成式人工智能技術(shù)快速崛起，掀起產(chǎn)業(yè)界的新一輪科技革命。據(jù)國(guó)家數(shù)據(jù)局統(tǒng)計(jì)，目前中國(guó)10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個(gè)，正深度應(yīng)用于電子信息、醫(yī)療、交通等千行百業(yè)，并走入人們的日常生活。

與此同時(shí)，一場(chǎng)全球范圍的安全焦慮快速發(fā)酵。

數(shù)據(jù)顯示，2023年，基于AI的深度偽造欺詐暴增了3000％，基于AI的釣魚(yú)郵件數(shù)量增長(zhǎng)了1000％，已有多個(gè)有國(guó)家背景的黑客組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。

起訴AI在提供人工智能服務(wù)過(guò)程中著作權(quán)侵權(quán)、訓(xùn)練數(shù)據(jù)來(lái)源不合法的訴狀，雪花一般飄至各國(guó)各地法院法官的案頭，對(duì)傳統(tǒng)知識(shí)產(chǎn)權(quán)法律體系發(fā)起挑戰(zhàn)。

《2024年人工智能指數(shù)報(bào)告》（以下簡(jiǎn)稱(chēng)《報(bào)告》）中來(lái)自市場(chǎng)研究公司Ipsos的一項(xiàng)調(diào)查顯示，2023年，52％的人對(duì)人工智能產(chǎn)品和服務(wù)表示焦慮，比2022年上升13個(gè)百分點(diǎn)。

“AI 技術(shù)的研發(fā)以數(shù)據(jù)為支撐，以互聯(lián)網(wǎng)技術(shù)為依托，在研發(fā)與應(yīng)用的過(guò)程中不僅涉及個(gè)人信息、隱私等倫理問(wèn)題，還牽涉國(guó)家網(wǎng)絡(luò)與數(shù)據(jù)安全。”北京大學(xué)人工智能研究院雙聘教授、中國(guó)科學(xué)技術(shù)法學(xué)會(huì)常務(wù)副會(huì)長(zhǎng)兼秘書(shū)長(zhǎng)張平教授說(shuō)。

探索

為應(yīng)對(duì)安全焦慮，人工智能發(fā)展與規(guī)則體系建立的競(jìng)賽在全球范圍內(nèi)進(jìn)入前所未有的熱潮?！秷?bào)告》顯示，2023年，全球立法程序中有 2175次提及人工智能，幾乎是上一年的兩倍。僅美國(guó)，2023年與人工智能相關(guān)的法規(guī)有25項(xiàng)，僅一年，總數(shù)增長(zhǎng)56.3％。而2016年只有1項(xiàng)。

中國(guó)也陸續(xù)探索出一批規(guī)則制度。例如，國(guó)家網(wǎng)信辦、工業(yè)和信息化部等部委先后于2021年、2022年聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，2023年7月，國(guó)家網(wǎng)信辦聯(lián)合多部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行，規(guī)定了生成式人工智能的安全評(píng)估、算法備案、投訴舉報(bào)等制度，明確了法律責(zé)任。

在司法層面，2023年11月27日和2024年2月8日，北京互聯(lián)網(wǎng)法院和廣州互聯(lián)網(wǎng)法院分別作出了AI文生圖著作權(quán)侵權(quán)國(guó)內(nèi)第一案（簡(jiǎn)稱(chēng)為“春風(fēng)圖案”）一審判決、AIGC平臺(tái)著作權(quán)侵權(quán)全球第一案（簡(jiǎn)稱(chēng)為“奧特曼案”）一審判決，就AIGC是否屬于作品及其權(quán)利歸屬等問(wèn)題，給出初步探索思路和思考。

在春風(fēng)圖案中，北京互聯(lián)網(wǎng)法院給出的思路是，AI不能成為作者，只是工具，但AIGC可能構(gòu)成作品，只要滿(mǎn)足智力投入、獨(dú)創(chuàng)性等要件，作者應(yīng)當(dāng)是生成式AI的使用者。

在奧特曼案中，廣州互聯(lián)網(wǎng)法院明確，生成式人工智能服務(wù)提供者在提供相關(guān)服務(wù)時(shí)應(yīng)盡到注意義務(wù)，尊重和保護(hù)知識(shí)產(chǎn)權(quán)，否則可能構(gòu)成侵權(quán)。

在智庫(kù)層面，2023年8月15日，中國(guó)社會(huì)科學(xué)院國(guó)情調(diào)研重大項(xiàng)目《我國(guó)人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研》起草組起草的《人工智能示范法1.0（專(zhuān)家建議稿）》全球首發(fā)，2024年4月16日，《人工智能示范法2.0（專(zhuān)家建議稿）》也已發(fā)布，為人工智能立法設(shè)計(jì)建議和方案。

建議

據(jù)周輝介紹，《示范法》2.0在繼續(xù)堅(jiān)持明確人工智能主管機(jī)關(guān)、科學(xué)設(shè)計(jì)法律主體架構(gòu)、劃明人工智能安全底線(xiàn)、提出許可管理負(fù)面清單等1.0版本起草思路的同時(shí)，對(duì)上述制度設(shè)計(jì)作了補(bǔ)充和完善，并進(jìn)一步提出構(gòu)建知識(shí)產(chǎn)權(quán)創(chuàng)新規(guī)則、重視人工智能開(kāi)源發(fā)展等建議。

周輝表示，起草組起草《示范法》的初衷是，吸取、借鑒域外國(guó)家在人工智能治理方面的有益經(jīng)驗(yàn)，提出有益的人工智能治理建議和方案，助力中國(guó)人工智能立法工作。

比如，《示范法》擬提出構(gòu)建“新避風(fēng)港規(guī)則”，允許人工智能提供者在已經(jīng)履行標(biāo)注生成物、建立投訴受理機(jī)制、警示機(jī)制和違規(guī)處置機(jī)制的前提下就知識(shí)產(chǎn)權(quán)侵權(quán)行為不承擔(dān)責(zé)任。鑒于人工智能模型訓(xùn)練必然需要投喂大量?jī)?yōu)質(zhì)數(shù)據(jù)物料，需要對(duì)知識(shí)產(chǎn)權(quán)法中有關(guān)作品許可利用的內(nèi)容作出變通規(guī)定，《示范法》2.0提出建立與人工智能發(fā)展相適應(yīng)的知識(shí)產(chǎn)權(quán)法定許可和合理使用制度，破除訓(xùn)練數(shù)據(jù)使用面臨的合法性難題，降低數(shù)據(jù)使用成本。

“人工智能治理，既要管住風(fēng)險(xiǎn)，也要鼓勵(lì)技術(shù)創(chuàng)新應(yīng)用，破解數(shù)據(jù)壁壘等一系列人工智能創(chuàng)新發(fā)展瓶頸、障礙。”周輝稱(chēng)，《示范法》2.0遵循均衡發(fā)展與安全的原則，既著眼于防范突出風(fēng)險(xiǎn)，也提出鼓勵(lì)發(fā)展的舉措。

比如，在安全風(fēng)險(xiǎn)治理方面，《示范法》2.0繼續(xù)按“研發(fā)者－提供者－使用者”三類(lèi)主體進(jìn)行制度設(shè)計(jì)，在設(shè)計(jì)一般性的安全評(píng)估、審計(jì)、采取防護(hù)措施等義務(wù)的基礎(chǔ)上，還對(duì)基礎(chǔ)模型研發(fā)者、網(wǎng)絡(luò)平臺(tái)、國(guó)家機(jī)關(guān)等主體規(guī)定了特殊義務(wù)以加強(qiáng)重點(diǎn)環(huán)節(jié)保障，并提出以稅收優(yōu)惠等政策鼓勵(lì)企業(yè)在安全防護(hù)方面進(jìn)行投資。

在鼓勵(lì)發(fā)展方面，《示范法》2.0圍繞目前人工智能發(fā)展的關(guān)鍵環(huán)節(jié)即算力基礎(chǔ)設(shè)施、算法和基礎(chǔ)模型創(chuàng)新、數(shù)據(jù)要素供給以及商業(yè)應(yīng)用創(chuàng)新等方面進(jìn)行了制度設(shè)計(jì)，并提出促進(jìn)人工智能開(kāi)源發(fā)展、建立監(jiān)管試驗(yàn)機(jī)制等措施。

此外，《示范法》提出成立人工智能倫理專(zhuān)家委員會(huì)，以更好開(kāi)展人工智能倫理問(wèn)題研究、指導(dǎo)倫理審查等工作。“堅(jiān)持以人為本、智能向善，是人工智能發(fā)展的底線(xiàn)原則。”周輝說(shuō)。

為應(yīng)對(duì)AI技術(shù)發(fā)展的不確定性，周輝表示，《示范法》在起草和更新過(guò)程中，采取較為包容審慎的態(tài)度。在安全風(fēng)險(xiǎn)管理、治理體制機(jī)制等方面?zhèn)戎赜诖_立相關(guān)原則、明確未來(lái)方向，而非直接規(guī)定制度細(xì)節(jié)。同時(shí)《示范法》也在制度設(shè)計(jì)上留出更多容錯(cuò)空間，允許人工智能主管機(jī)關(guān)和行業(yè)組織通力合作，更有效地實(shí)施和執(zhí)行相關(guān)制度。

此外，周輝也提到，人工智能立法過(guò)程中應(yīng)聚焦AI技術(shù)特點(diǎn)和行業(yè)發(fā)展需要，與我國(guó)現(xiàn)有法律中已經(jīng)確立的網(wǎng)絡(luò)數(shù)據(jù)安全監(jiān)管、個(gè)人信息保護(hù)等制度做好銜接，不宜重復(fù)規(guī)定。但可以考慮根據(jù)AI技術(shù)特點(diǎn)，出臺(tái)專(zhuān)門(mén)的安全標(biāo)準(zhǔn)、合規(guī)指南，協(xié)助相關(guān)企業(yè)和研究機(jī)構(gòu)依法開(kāi)展工作。

合力

張平教授表示：“AI是人類(lèi)發(fā)展的新領(lǐng)域，機(jī)遇大，挑戰(zhàn)也大，需要以全球合力共同參與人工智能的合作與建設(shè)?！?/p>

《報(bào)告》顯示，2023 年，61個(gè)著名的人工智能模型源自美國(guó)的機(jī)構(gòu)，歐盟 21個(gè)，中國(guó)15個(gè)。同時(shí)，中國(guó)的機(jī)器人安裝量居世界首位，世界上61％的人工智能專(zhuān)利來(lái)自中國(guó)。

《報(bào)告》指出，負(fù)責(zé)任的人工智能?chē)?yán)重缺乏標(biāo)準(zhǔn)化，包括 OpenAI、 Google 和 Anthropic 在內(nèi)的領(lǐng)先開(kāi)發(fā)商主要根據(jù)不同的負(fù)責(zé)任人工智能基準(zhǔn)測(cè)試他們的模型。這種做法使系統(tǒng)地比較頂級(jí)人工智能模型的風(fēng)險(xiǎn)和局限性的工作變得更加復(fù)雜。

2023年我國(guó)率先提出全球人工智能治理倡議，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國(guó)方案，堅(jiān)持以人為本、智能向善，為相關(guān)討論和規(guī)則制定提供了思路藍(lán)本。

2024年3月，包括圖靈獎(jiǎng)得主約書(shū)亞·本吉奧、杰弗里·辛頓、姚期智等在內(nèi)的數(shù)十位的中外專(zhuān)家在北京聯(lián)合簽署了《北京AI安全國(guó)際共識(shí)》。2024年4月《2024年中非互聯(lián)網(wǎng)發(fā)展與合作論壇關(guān)于中非人工智能合作的主席聲明》發(fā)布。全球人工智能治理的合作范式不斷刷新。

張平認(rèn)為，AI安全風(fēng)險(xiǎn)治理是一項(xiàng)綜合性工作，應(yīng)當(dāng)分層級(jí)、分領(lǐng)域、分階段、分重點(diǎn)開(kāi)展。具體而言，“人類(lèi)安全——國(guó)家安全——個(gè)體安全”這三個(gè)維度的潛在安全風(fēng)險(xiǎn)都不容忽視，應(yīng)予重點(diǎn)關(guān)注，三層風(fēng)險(xiǎn)的解決方案也應(yīng)對(duì)癥下藥。即AI技術(shù)應(yīng)以尊重人類(lèi)權(quán)益為前提，堅(jiān)持以人為本，智能向善；保障各國(guó)在這場(chǎng)“AI競(jìng)賽”中權(quán)利平等、機(jī)會(huì)平等、規(guī)則平等，彌合智能鴻溝和治理能力差距；關(guān)注AI應(yīng)用對(duì)個(gè)體權(quán)益的影響，尤其是對(duì)個(gè)人隱私安全的影響。

“人工智能的發(fā)展與治理問(wèn)題，是創(chuàng)新與傳統(tǒng)制度之間的張力問(wèn)題。人工智能發(fā)展尚在初期，且不確定性是其最大特性，圍繞人工智能法律規(guī)制的這場(chǎng)討論還遠(yuǎn)遠(yuǎn)不到下定論的時(shí)候。不如讓子彈飛一會(huì)兒?！睆埰秸f(shuō)。

“人工智能技術(shù)發(fā)展日新月異，《示范法》也將隨著實(shí)踐發(fā)展而不斷迭代出3.0、4.0等版本，以期得出更成熟、更全面、更有效率的治理方案?！敝茌x說(shuō)。