中新網上海9月12日電 (姜煜 高志苗)以“AI向善·安全發展——大模型在嚴謹行業應用中的倫理與治理”為主題的外灘大會分論壇，12日在上海“2025外灘大會”現場舉辦，專家學者在論壇上熱議醫療AI應用。
“在醫療行業，AI的決策直接關乎生命健康與社會公平，數據濫用、算法偏見、責任模糊等問題亟待解決。”中國互聯網協會副理事長黃澄清在論壇致辭中表示，構建可信、可靠、可追溯的AI治理體系已成為技術發展的內在要求，也是社會責任的必然選擇。
“醫療大模型的發展，我覺得對社會最大的貢獻是有可能促進醫療公平公正。”復旦大學哲學學院教授王國豫說，AI在醫療領域的應用是偏遠地區醫生的好助手，為優勢醫療資源難以觸達和覆蓋的病患群體帶去了期望和福音。
上海交通大學醫學院附屬瑞金醫院信息中心主任趙艷認為，AI的出現讓患者不僅在診前就能對自身情況進行較科學的基礎了解，也在診中和診后促進了患者對醫生診療方案的依從性，從而可以提升配合治療的效果。
中國工程院院士、同濟大學黨委書記鄭慶華指出，AI與人類的“價值對齊”問題是確保人工智能科技向善的根本，要通過強化學習讓大模型學習人類的價值和偏好，以此讓人工智能對齊人類價值，創建安全、符合倫理的人工智能系統，同時人類也要對齊AI，核心是確保人們負責任地應用AI。
“全球的人工智能治理正走向促發展和柔性監管的方向，即建立一個敏捷的治理體系，以政策指引促進產業主動自律，以包容審慎的態度來構建負責任的人工智能安全體系。”中國信息通信研究院副院長魏亮說。據他介紹，2025年7月，中國信息通信研究院聯合多家企事業單位，共同發布了《人工智能安全承諾》，形成了20條實踐標簽、43條安全案例，不僅推動我國人工智能安全治理邁入體系化、透明化、實操化的新階段，也為全球貢獻了“以人為本、智能向善”的中國方案。
企業界代表、螞蟻集團資深副總裁及科技倫理委員會聯席主席周志峰說：“我們還是希望通過預警、測試、修復這樣的動態機制來提升AI的風險防控能力。”他在論壇上介紹了螞蟻集團在AI大模型領域的研發進展以及倫理方面的思考。(完)