-科報講武堂

　　科幻電影《終結者》中，人類和機器人的戰爭令人印象深刻。美國國防部的一名官員近日對媒體表示，國防部目前存在一種討論，可能會最終導致機器自主決定使用武器。聯想到AlphaGo大敗李世石的“人機大戰”，很多人不禁擔憂——隨著人工智能的不斷發展，集人工智能之大成的軍事機器人是否會對未來戰爭形式和戰場勝負產生重大影響？

　　“完全自主機器人具有持續作戰時間長、反應能力快、生存能力強等優勢，將會進一步增加戰爭的烈度與強度，對人類戰士具有巨大的不對稱優勢，最終會將戰爭拉入無人戰爭的領域。”國防科技大學軍事專家曾華鋒教授告訴科技日報記者，“不過，現階段還沒有能夠實現完全自主攻擊的作戰機器人或者無人裝備。在美軍‘第三次抵消戰略’中，盡管也提出要強化美國在無人作戰中的優勢，但從最前沿的技術看，距離完全自主攻擊的目標還很遠。對此，我們沒有必要過分擔憂。”

　　毋庸置疑，人工智能正越來越多地走上戰場，推動著戰爭形態從信息化戰爭向智能化戰爭加速演進。目前，人類遙控指揮的無人系統已經投入戰場，有了人類的控制，無人系統無疑會更加可靠。但是隨著科技的發展，人工智能在某些領域超越人類已是不爭的事實。從科技的角度來看，完全脫離人類控制而實現自主攻擊似乎是人工智能在戰爭上的終極形式。

　　國防科技大學石海明博士告訴記者，相比人類，機器人確實具有巨大的優勢，然而其劣勢也是顯而易見的，主要集中在倫理的爭議、發展不可控的風險等等。比如，在2006年至2013年美軍于巴基斯坦發動的反恐戰爭中，無人機殺死2514名武裝人員的同時也“誤殺”了153名平民。由于無人化作戰平臺自身的不可靠性，相關作戰行動造成了一種事實上的武力濫用行為，對相關作戰倫理道德規約產生了沖擊。

　　“要實現機器人的自主攻擊，就必須減少其負面影響。這需要克服很多技術難題，如自主敵我識別、自主分析判斷和決策能力的實現，包括了機器視覺、數據挖掘、探索推理等人工智能研究領域分支。這顯然不是短時間內可以實現的。”石海明說。

　　美軍新版無人兵器發展路線圖透露，美國將在未來10年內投資100多億美元用于無人機的研發與采購，而10年后美國國防部每年用于無人機研發的資金將高達40億美元。

　　對此，曾華鋒指出，美國在人工智能和機器學習技術方面領先全球。從現在的發展趨勢來看，這些技術將會極大提高無人系統的自主性，減少對存在隱患的數據鏈路的依賴。如果擴大無人作戰的規模，那么美國將能夠利用其實踐經驗、與自動化相關的技術能力，以及在復雜系統工程與集成方面的牢固優勢，構成全球監視與打擊網絡。這將進一步推進無人化戰爭的進程。

　　很多科幻小說預言，高度發展的機器人會給人類帶來無盡的災難，人工智能帶給人類的絕不僅僅是福音。

　　對此，曾華鋒表示贊同。他分析認為，“一方面，正如部分科學家擔憂的一樣，假如人工智能的發展進入了強人工智能階段，人工智能可以通過不斷的自我學習與發展產生出主觀情緒與欲望。那么，當有一天人工智能的發展與人類自身利益發生沖突時，其后果將難以預料。另一方面，假定限制發展強人工智能，始終維持在弱人工智能的階段，其能力的不斷增長也將會造成大量人類失業，屆時人類的發展將面臨很多問題。因此，這種技術如果應用到軍事機器人上很有可能對人類造成巨大災難。這些可能性必須認真考慮，否則后果或許將難以預測。”