近年來，人工智能的新技術不斷突破、新業態持續涌現、新應用加快拓展，已成為新一輪科技革命和產業變革的重要驅動力量。同時，人工智能發展在法律、安全、就業、道德倫理等方面也面臨著一系列新課題。國際組織和世界多國已開始在理念、立法和科普等方面探索人工智能治理的可行性路徑并達成一些共識，努力在發展和安全之間尋求平衡，但全球人工智能治理仍面臨“監管滯后”“技術鴻溝”“安全泛化”“共識難聚”“歸責不明”“執行不力”等挑戰。
探索全球人工智能治理共識機制
近年來，全球主要經濟體和國際組織紛紛致力于人工智能治理框架的構建與迭代，積極探索全球人工智能治理共識機制。
“從全球范圍來看，人工智能已步入技術發展的‘奇點時刻’與監管治理的‘關鍵時刻’。”對外經濟貿易大學數字經濟與法律創新研究中心主任張欣在接受本報記者采訪時表示，當前，作為全球科技競爭最激烈的領域之一，人工智能的國際競爭早已超越技術和產業的競爭，并實質拓展到以法律規制為代表的治理競爭。美國、中國、歐盟、英國、日本、韓國、加拿大、新加坡和巴西等均高度重視人工智能治理，形成“技術賽道”“產品賽道”和“制度賽道”多軌并行的新格局。
國際組織積極探索促成全球人工智能治理共識達成的規范框架。張欣介紹，2019年，經濟合作與發展組織發布了全球首個政府間人工智能治理原則的文件。同年，二十國集團提出“G20人工智能原則”，確定了人工智能應促進包容性增長、可持續發展和社會福祉以及“以人為本”的價值觀和“問責制”等治理的基礎性原則。2023年10月，聯合國秘書長安東尼奧·古特雷斯宣布組建高級別人工智能咨詢機構，該機構于2023年12月發布《臨時報告：以人為本的人工智能治理》。
國際組織尤為重視生成式人工智能的負責任創新。張欣介紹，聯合國《全球數字契約》《關于負責任的生成式人工智能的建議》（世界經濟論壇）、《生成式人工智能在教育和研究中的應用指南》等一系列文件發布，共同強調了在發展和應用生成式人工智能技術時必須遵循的倫理原則和規范，進一步呼吁各國政府、私營主體、學術機構以及民間團體共同努力，加強全球合作治理。
中國一直是人工智能全球治理的積極倡導者和踐行者。2021年12月，中國向聯合國《特定常規武器公約》第六次審議大會提交《中國關于規范人工智能軍事應用的立場文件》，2022年11月又向聯合國《特定常規武器公約》締約國大會提交了《中國關于加強人工智能倫理治理的立場文件》。2023年10月，中國提出《全球人工智能治理倡議》，為凝聚國際社會共識、推進全球共享共治發揮了積極作用。2024年7月，第78屆聯合國大會以協商一致方式通過了中方主提的“加強人工智能能力建設國際合作”決議，143個聯合國會員國參加聯署。這是全球首個聚焦人工智能能力建設的共識性文件。
“在全球人工智能治理秩序形成的過程中，各大科技企業也積極探索人工智能治理的多元化路徑，嘗試探尋自我規制的創新方案。”張欣說，一方面，科技企業積極尋求與監管者溝通合作，力求通過自我承諾、自我約束開展人工智能治理；另一方面，科技企業也積極開發人工智能治理工具以紓解新型技術風險，推進負責任的創新與研發。
“面對人工智能技術革新及由此引發的治理挑戰，當前，全球范圍內已初步形成主權國家主導、國際組織推進、科技企業協同的多方治理格局，并出現人工智能治理法治化、智慧化和軟法與硬法雙軌并行深度治理的趨勢。”張欣說。
加強人工智能治理規則的全球協作日益成為各方共識
過去一年多來，生成式人工智能技術已取得了質的飛躍。這不僅體現在技術進步的速度上，更體現在其廣泛而深遠的影響上，為各行各業帶來了前所未有的變革。
據美國一個面向公眾開放的數據集——人工智能、算法、自動化事件和爭議存儲庫顯示，2021年新報告的人工智能事件和爭議數量是2012年的26倍。其中，生成式人工智能引發的虛假信息問題尤為突出。由于虛假信息面向的是互聯網信息內容領域，因此產生的影響具有行業和場景的廣泛性。
“與傳統技術風險有所不同，人工智能技術風險具有隱蔽性、跨域性、全球性和長期性，需要從國際層面展開持續性、系統性和協同性的治理努力。”張欣說，人工智能技術的突破式發展導致新舊風險疊加，帶來了一系列安全和倫理挑戰。由于人工智能的技術迭代以日為單位，若不在早期實施有效的介入治理，則可能出現后期風險難以控制的治理困境。
“各國雖在人工智能治理思路和具體方案上存在差異，但加強人工智能治理規則的全球協作日益成為各方共識。”張欣說，2023年11月，人工智能安全峰會在英國舉行，達成了全球首個人工智能治理協議《布萊切利宣言》，包括中國、美國、英國等28個國家及歐盟共同簽署了該項宣言。
國際社會已形成共識：將“以人為本”作為人工智能研發和部署的基本原則和重要理念。張欣分析，“以人為本”這一共識意味著，在人工智能技術的開發與應用過程中，首要任務是確保技術始終以人類利益為先，尊重每個個體的基本權利和人的尊嚴，維護人的主體性地位，確保人工智能技術的發展真正服務于增進人類福祉的目標。“以人為本”的理念還強調人工智能開發應采取負責任的創新方式。這要求在技術設計、開發和部署階段，應系統地評估和衡量潛在的影響與風險，確保系統設計的公平性和多樣性，避免技術濫用。
張欣說，從實踐來看，全球人工智能治理仍然存在以下不足：一是國際組織參與度高于政府，但尚未有國際組織承擔起全球人工智能核心監管機構的角色，各國際組織間呈現出高度分散的碎片化狀態。二是政府間合作多具有地域特征和大國競爭導向。以G7國家為代表的發達國家試圖構建一套普適性的人工智能監管規則， 而以金磚國家為代表的新興市場和發展中國家在人工智能治理的國際合作中潛力尚待發揮。
不斷彌合智能鴻溝和治理能力差距
由于技術發展水平和文化背景差異，各國對人工智能風險的感知也顯著不同。斯坦福大學人工智能研究所發布的《2023年人工智能指數報告》引用調查機構易普索2022年的調查指出，部分發展中國家對人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產品和服務的好處多于壞處”的觀點，76%的沙特阿拉伯受訪者和71%的印度受訪者認為人工智能產品“利大于弊”。德國、荷蘭、澳大利亞、比利時和加拿大等一些發達國家對人工智能產品和服務的評價則稍顯負面。
“打造一個全方位、多層次、匯聚廣泛共識， 具有真正的包容性、平等性、多元性的治理框架仍然面臨多項挑戰。其中尤為突出的當屬意識形態對人工智能治理框架的影響以及資本逐利帶來的負面沖擊。”張欣認為，面對人工智能技術創新及接踵而來的治理挑戰，全球人工智能治理確實已站在歷史選擇的“關鍵十字路口”，能否超越分歧達致共識，能否超越個別利益實現共同利益，是決定全球人工智能治理模式是否有韌性、有效的關鍵因素。
張欣說，全球人工智能治理面臨歸責框架不清晰和協作治理機制不健全等問題。如何處理數據安全、隱私保護、算法濫用等問題，并形成全球范圍內的協同有效治理，也是當前的重要議題。
中國始終將發展中國家的期待與需求放在重要位置。《全球人工智能治理倡議》指出，增強發展中國家在人工智能全球治理中的代表性和發言權，確保各國人工智能發展與治理的權利平等、機會平等、規則平等，開展面向發展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。
中國常駐聯合國代表傅聰介紹加強人工智能能力建設國際合作決議草案時表示，大多數國家特別是發展中國家尚未能真正接觸、使用人工智能并從中受益，全球數字鴻溝仍有擴大之勢。在此背景下，中國順應廣大國家特別是發展中國家的期待，倡導人工智能能力建設國際合作，平等發展和利用人工智能技術，共享人工智能知識成果，體現了中國對人工智能發展和治理的負責任態度。
“發展中國家與發達經濟體之間在人工智能技術發展和治理議程設置能力上仍存在‘智能鴻溝’和治理代差。”張欣說，構建全球人工智能治理機制需要以包容性、平等性、多元性為基礎原則，探索政府間、企業間、專家間的對話交流和磋商機制，通過在重點領域率先凝聚治理共識推動實現協同發展、和諧共榮的治理格局。