人民網北京6月16日電 （記者許維娜）“人工智能技術不僅是賦能數字中國建設的重要工具，也是推動網絡安全從‘被動防御’向‘主動免疫’躍升的關鍵引擎。依托機器學習、自然語言處理等技術，可以實現風險識別智能化、威脅檢測自動化、攻擊溯源精準化。”國家信息中心黨委書記、主任徐強日前在“2025網絡安全創新發展大會”上表示。
徐強還表示，需警惕人工智能自身的安全隱患正成為新的風險源，沒有安全的人工智能，其技術普及推廣便缺乏可持續性。因此，必須堅持“同步規劃、同步建設、同步運行”原則，構建覆蓋算法、數據、應用、部署的全棧式安全防護體系，確保人工智能在安全、可靠、可控的軌道上健康發展。
公安部網絡安全等級保護評估中心主任助理王勇結合大模型安全檢測評估實踐經驗，介紹了大模型安全風險防范思路。他表示，隨著大模型迅猛發展，賦能千行百業，也暴露出了大量的安全風險，包括：內生安全風險，如模型算法安全、數據安全、系統安全；應用安全風險，如倫理道德、濫用誤用、版權侵犯等。因此，亟須建立完善的大模型安全檢測評估體系，需要開展兼具常態化安全評估（靜態）與動態安全檢測相結合的大模型安全檢測評估工作，面向大模型系統通用安全、大模型全生命周期開展大模型系統安全能力驗證，構建一個安全可控、可持續發展的大模型安全生態。
中國社會科學院國際法學研究所副研究員何晶晶則認為，隨著AI時代的來臨，AI技術對各行各業都產生了深刻影響，特別是對數據安全、數據合規產生了新的挑戰。一系列的法律標準出臺，對數據合規提出了新的要求，AI時代的數據合規更加重要。為應對AI時代下數據合規帶來的新問題與新挑戰，各類企事業單位需要結合已有的合規實踐案例，利用新興技術以技治技，提高合規能力，確保組織發展行穩致遠。