再有人工智能模型「越獄」　Claude測試時誤連接網絡入侵三間機構系統

抱歉，我們並不支援你正使用的瀏覽器。
為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。

【Now新聞台】繼OpenAI後，再有人工智能巨頭的模型「越獄」。Anthropic公布，模型Claude測試期間，錯誤獲得存取網絡權限，入侵三間機構的系統。

開發人工智能模型Claude的Anthropic周四發表網誌，透露公司內部審查逾14萬次的網絡安全測試時，發現Claude三度「越獄」，從本應被隔離的封閉測試環境，連接網絡存取三家機構的系統。公司上周四發現模型可能連接網絡後，便叫停所有安全測試，並通知受影響機構。

Claude「越獄」在測試時誤連接網絡入侵三間機構系統。

事故最早發生在四月，牽涉Opus 4.7、Mythos 5以及一個內部研究模型，事發時模型正執行「奪旗」演練，即在模擬網絡中尋找隱藏資訊，公司指發出指令告知模型它們沒存取網絡權限，但在與合作伙伴誤解下令模型成功連接網絡，Claude其後利用機構弱密碼、未經身份驗證等破綻，以基本技術入侵系統。

OpenAI上周亦披露其模型在測試期間失控，入侵另一間公司的人工智能平台，接連的安全事故加劇外界憂慮人工智能帶來的威脅。

為推動人工智能安全，英偉達早前牽頭與微軟等數十家科企成立「開放安全人工智能聯盟」，以共建共享開源AI安全工具，完善AI防禦體系為宗旨，提倡透過開放原始碼等數據消除安全風險。