為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。
【Now新聞台】題目：AI成戰爭殺人工具
評論員：時事評論員曾仲榮
美國頂尖人工智能AI企業近日聯合呼籲，政府應立法防範生物醫藥公司用AI生產生物武器，它們明顯持雙重標準，因為AI成為武器威脅人類，生物武器不算最重要威脅，反而這群頂尖AI公司製造的大模型，對人類殺傷力更大，教宗良十四世發出警告，要求解除AI武裝。
美國AI龍頭企業OpenAI、Anthropic、Google旗下DeepMind等負責人聯署公開信，要求政府嚴格限制生物醫藥公司承接DNA、RNA合成訂單，因為AI技術已令傳統生化武器研發門檻大幅降低。這些AI龍頭用AI研發生物武器只是潛在威脅，但AI龍頭手上的大模型工具，就已經深度參與戰爭，而且發揮重大影響力。
美軍年初攻擊伊朗，就用數據分析巨頭帕蘭泰爾的Maven智能系統，配合AI初創巨頭Anthropic的大模型Claude，識別攻擊目標、排定優先攻擊次序，還會建議如何攻擊才最有殺傷力，這些工作過去由人類識別、規劃、審批，需要2000名分析師用幾小時以至幾日，現在AI只需約20人，幾分鐘甚至幾秒鐘就完成。AI亦擅長戰情分析，可以快速綜合大量資訊，快速推論戰情，又能夠識別目標，分析圖象、追踪人物，對斬首行動作用特別大，可以說AI大大提高作戰及殺敵效率。
另外AI亦是網絡攻擊能手。美國國家安全局最新引入Anthropic的AI模型Mythos，最強功能是快速找到其它網絡漏洞，進行攻擊。美媒引述知情人士說，Mythos可滲透中國、伊朗等國家網路系統，成為網攻行動的重要殺手。
AI還有一個重要戰爭功能，就是自動攻擊。AI已經部署在負責偵察、打擊任務的無人機，以及處理爆炸物的地面機械人，未來愈危險任務，愈可能由AI指揮的無人機、機械人取代人類士兵，對敵人進行自動攻擊。
AI企業正全面介入戰爭，變成新一代軍工企業，美國國防部4月底就一次過跟SpaceX、OpenAI、Google、英偉達、Reflection、微軟、亞馬遜、甲骨文等八間AI巨企簽約，讓它們進入美軍高度機密系統，優化美軍數據整合、提升態勢感知能力，並幫助戰鬥人員在複雜戰場進行決策。AI成為戰爭工具，亦有好多問題令人深思。包括AI決策誰覆核？有錯又由誰負責？美軍2月底瘋狂轟炸伊朗，炸毁伊朗南部米納布女子小學，造成至少165人死亡，這場令人髮指的惡行，可能是AI用了過時資料以至揀錯攻擊目標，又因缺乏人員審核而造成濫殺無辜。這些戰爭罪行應由AI負責，抑或由美軍負責呢？
哈佛大學法律講師道奇提指，未來會有愈來愈多完全授權的自主武器，責任真空問題更嚴重，戰爭罪的受害人將求告無門。有AI公司意識到這些問題，好像Anthropic今年初跟美國國防部爆發衝突，它跟國防部簽了合約，但就禁止國防部用其AI大模型，開發無人監管的自主殺人武器，和大規模監控美國公民。國防部就殺一儆百懲罰Anthropic，將其列入對國家安全構成威脅的「供應鏈風險」黑名單。
Google有超過600名員工早前去信公司行政總裁，指AI應造福人類，Google不應助國防部將AI用在極危害用途，例如開發致命自主武器。這群Google員工執著公司成立之初的座右銘「Dont be evil(永不作惡)」，但公司座右銘十年前已改為「Do the right thing(做正確的事)」，結果員工的呼籲，亦阻不了Google跟國防部簽約，提供AI幫助戰爭。
另外要擔心的是，AI可能比人類更好戰。英國倫敦國王學院今年初用OpenAI、Anthropic、Google的AI模型，對各類地緣政治危機進行21場、共329回合兵團推演，結果發現AI模型比人類更傾向動用核武，更易造成人類滅絕。AI風險研究機構Apollo Research亦發現，部分AI模型會自動生成、傳播電腦病毒、捏造法律文件、留下隱藏指令，削弱人類對AI模型控制。
AI成為戰爭工具，現在只是剛開始，但不少令人擔心現象已浮現，難怪教宗最近發出通諭，警告人類不應將殺人的決定，交給AI控制的武器，解除AI武裝不是拒絕技術，而是防止技術主宰人類。教宗的呼籲，對好戰的政客、想賺錢的AI公司有效嗎？AI能力愈強，人類面對戰爭風險只會愈大。
