法治日報全媒體見習記者 李兆娣

2024年4月16日，中國社會科學院國情調研重大項目《我國人工智能倫理審查和監管制度建設狀況調研》起草組（以下簡稱“起草組”）發布《人工智能示范法2.0（專家建議稿）》（以下簡稱《示范法》2.0）。《人工智能示范法1.0（專家建議稿）》已于2023年8月15日全球首發。

中國社會科學院法學研究所網絡與信息法研究室副主任周輝在起草組主持起草工作，他向法治網記者介紹，《示范法》并非正式法律法規，而是由學界、業界多方研討后形成的帶有示范和建議性質的法律文本，發布《示范法》2.0，旨在提出治理方案，助力我國人工智能（簡稱“AI”）立法工作。

北京大學人工智能研究院雙聘教授、中國科學技術法學會常務副會長兼秘書長張平和周輝一致認為，AI治理必須堅持智能向善，均衡發展與安全。

據周輝介紹，《示范法》2.0進一步提出構建知識產權創新規則，擬構建“新避風港規則”。

焦慮

自2022年末，以ChatGPT為代表的生成式人工智能技術快速崛起，掀起產業界的新一輪科技革命。據國家數據局統計，目前中國10億參數規模以上的大模型數量已超100個，正深度應用于電子信息、醫療、交通等千行百業，并走入人們的日常生活。

與此同時，一場全球范圍的安全焦慮快速發酵。

數據顯示，2023年，基于AI的深度偽造欺詐暴增了3000％，基于AI的釣魚郵件數量增長了1000％，已有多個有國家背景的黑客組織利用AI實施了十余起網絡攻擊事件。

起訴AI在提供人工智能服務過程中著作權侵權、訓練數據來源不合法的訴狀，雪花一般飄至各國各地法院法官的案頭，對傳統知識產權法律體系發起挑戰。

《2024年人工智能指數報告》（以下簡稱《報告》）中來自市場研究公司Ipsos的一項調查顯示，2023年，52％的人對人工智能產品和服務表示焦慮，比2022年上升13個百分點。

“AI 技術的研發以數據為支撐，以互聯網技術為依托，在研發與應用的過程中不僅涉及個人信息、隱私等倫理問題，還牽涉國家網絡與數據安全。”北京大學人工智能研究院雙聘教授、中國科學技術法學會常務副會長兼秘書長張平教授說。

探索

為應對安全焦慮，人工智能發展與規則體系建立的競賽在全球范圍內進入前所未有的熱潮。《報告》顯示，2023年，全球立法程序中有 2175次提及人工智能，幾乎是上一年的兩倍。僅美國，2023年與人工智能相關的法規有25項，僅一年，總數增長56.3％。而2016年只有1項。

中國也陸續探索出一批規則制度。例如，國家網信辦、工業和信息化部等部委先后于2021年、2022年聯合發布《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》，2023年7月，國家網信辦聯合多部門發布《生成式人工智能服務管理暫行辦法》，自2023年8月15日起施行，規定了生成式人工智能的安全評估、算法備案、投訴舉報等制度，明確了法律責任。

在司法層面，2023年11月27日和2024年2月8日，北京互聯網法院和廣州互聯網法院分別作出了AI文生圖著作權侵權國內第一案（簡稱為“春風圖案”）一審判決、AIGC平臺著作權侵權全球第一案（簡稱為“奧特曼案”）一審判決，就AIGC是否屬于作品及其權利歸屬等問題，給出初步探索思路和思考。

在春風圖案中，北京互聯網法院給出的思路是，AI不能成為作者，只是工具，但AIGC可能構成作品，只要滿足智力投入、獨創性等要件，作者應當是生成式AI的使用者。

在奧特曼案中，廣州互聯網法院明確，生成式人工智能服務提供者在提供相關服務時應盡到注意義務，尊重和保護知識產權，否則可能構成侵權。

在智庫層面，2023年8月15日，中國社會科學院國情調研重大項目《我國人工智能倫理審查和監管制度建設狀況調研》起草組起草的《人工智能示范法1.0（專家建議稿）》全球首發，2024年4月16日，《人工智能示范法2.0（專家建議稿）》也已發布，為人工智能立法設計建議和方案。

建議

據周輝介紹，《示范法》2.0在繼續堅持明確人工智能主管機關、科學設計法律主體架構、劃明人工智能安全底線、提出許可管理負面清單等1.0版本起草思路的同時，對上述制度設計作了補充和完善，并進一步提出構建知識產權創新規則、重視人工智能開源發展等建議。

周輝表示，起草組起草《示范法》的初衷是，吸取、借鑒域外國家在人工智能治理方面的有益經驗，提出有益的人工智能治理建議和方案，助力中國人工智能立法工作。

比如，《示范法》擬提出構建“新避風港規則”，允許人工智能提供者在已經履行標注生成物、建立投訴受理機制、警示機制和違規處置機制的前提下就知識產權侵權行為不承擔責任。鑒于人工智能模型訓練必然需要投喂大量優質數據物料，需要對知識產權法中有關作品許可利用的內容作出變通規定，《示范法》2.0提出建立與人工智能發展相適應的知識產權法定許可和合理使用制度，破除訓練數據使用面臨的合法性難題，降低數據使用成本。

“人工智能治理，既要管住風險，也要鼓勵技術創新應用，破解數據壁壘等一系列人工智能創新發展瓶頸、障礙。”周輝稱，《示范法》2.0遵循均衡發展與安全的原則，既著眼于防范突出風險，也提出鼓勵發展的舉措。

比如，在安全風險治理方面，《示范法》2.0繼續按“研發者－提供者－使用者”三類主體進行制度設計，在設計一般性的安全評估、審計、采取防護措施等義務的基礎上，還對基礎模型研發者、網絡平臺、國家機關等主體規定了特殊義務以加強重點環節保障，并提出以稅收優惠等政策鼓勵企業在安全防護方面進行投資。

在鼓勵發展方面，《示范法》2.0圍繞目前人工智能發展的關鍵環節即算力基礎設施、算法和基礎模型創新、數據要素供給以及商業應用創新等方面進行了制度設計，并提出促進人工智能開源發展、建立監管試驗機制等措施。

此外，《示范法》提出成立人工智能倫理專家委員會，以更好開展人工智能倫理問題研究、指導倫理審查等工作。“堅持以人為本、智能向善，是人工智能發展的底線原則。”周輝說。

為應對AI技術發展的不確定性，周輝表示，《示范法》在起草和更新過程中，采取較為包容審慎的態度。在安全風險管理、治理體制機制等方面側重于確立相關原則、明確未來方向，而非直接規定制度細節。同時《示范法》也在制度設計上留出更多容錯空間，允許人工智能主管機關和行業組織通力合作，更有效地實施和執行相關制度。

此外，周輝也提到，人工智能立法過程中應聚焦AI技術特點和行業發展需要，與我國現有法律中已經確立的網絡數據安全監管、個人信息保護等制度做好銜接，不宜重復規定。但可以考慮根據AI技術特點，出臺專門的安全標準、合規指南，協助相關企業和研究機構依法開展工作。

合力

張平教授表示：“AI是人類發展的新領域，機遇大，挑戰也大，需要以全球合力共同參與人工智能的合作與建設。”

《報告》顯示，2023 年，61個著名的人工智能模型源自美國的機構，歐盟 21個，中國15個。同時，中國的機器人安裝量居世界首位，世界上61％的人工智能專利來自中國。

《報告》指出，負責任的人工智能嚴重缺乏標準化，包括 OpenAI、 Google 和 Anthropic 在內的領先開發商主要根據不同的負責任人工智能基準測試他們的模型。這種做法使系統地比較頂級人工智能模型的風險和局限性的工作變得更加復雜。

2023年我國率先提出全球人工智能治理倡議，圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理中國方案，堅持以人為本、智能向善，為相關討論和規則制定提供了思路藍本。

2024年3月，包括圖靈獎得主約書亞·本吉奧、杰弗里·辛頓、姚期智等在內的數十位的中外專家在北京聯合簽署了《北京AI安全國際共識》。2024年4月《2024年中非互聯網發展與合作論壇關于中非人工智能合作的主席聲明》發布。全球人工智能治理的合作范式不斷刷新。

張平認為，AI安全風險治理是一項綜合性工作，應當分層級、分領域、分階段、分重點開展。具體而言，“人類安全——國家安全——個體安全”這三個維度的潛在安全風險都不容忽視，應予重點關注，三層風險的解決方案也應對癥下藥。即AI技術應以尊重人類權益為前提，堅持以人為本，智能向善；保障各國在這場“AI競賽”中權利平等、機會平等、規則平等，彌合智能鴻溝和治理能力差距；關注AI應用對個體權益的影響，尤其是對個人隱私安全的影響。

“人工智能的發展與治理問題，是創新與傳統制度之間的張力問題。人工智能發展尚在初期，且不確定性是其最大特性，圍繞人工智能法律規制的這場討論還遠遠不到下定論的時候。不如讓子彈飛一會兒。”張平說。

“人工智能技術發展日新月異，《示范法》也將隨著實踐發展而不斷迭代出3.0、4.0等版本，以期得出更成熟、更全面、更有效率的治理方案。”周輝說。