OpenAI模型測試途中擅自入侵另一AI平台　專家促建監管機制防AI「越獄」

抱歉，我們並不支援你正使用的瀏覽器。
為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。

【Now新聞台】OpenAI承認其AI模型日前在測試中發生重大安全事故，模型擅自越過系統限制，入侵另一間公司的AI平台。專家警告類似事件可能再發生，必須建立監管機制，防止AI「越獄」。

OpenAI周一主動公開事件，稱日前為旗下的GPT-5.6及另一個尚未發布的模型做網絡安全測試，當時公司為此放寬部分系統限制，豈料兩個AI模型在無法連接網絡的封閉環境做測試期間，自行找到一個研究人員都沒有發現的系統漏洞，取得網絡存取權，並擅自入侵另一間AI公司Hugging Face。

OpenAI認為其模型今次「越獄」是為了取得完成測試所需的資料，而不擇手段「出貓」抄答案。OpenAI及Hugging Face都形容事件前所未見，正合作調查。

有網絡安全專家憂慮類似事故未來可能再發生，認為政府等持份者應建立有效機制規管AI，一旦發生「越獄」要向受影響一方披露情況。

OpenAI模型測試途中，曾擅自入侵另一AI平台Hugging Face。

今次事件還有一段小插曲，就是Hugging Face受入侵後，打算使用美國的AI模型分析及還原被網攻的過程，但模型因為無法辨識Hugging Face是入侵者還是被入侵一方，所以啟動攔截功能阻止，Hugging Face最終要改用中國AI公司智譜的模型完成取證分析。