【Now.com】OpenAI 首席科學家 Jakub Pachocki 發文警告，AI 發展速度過快，全球社會與業界都未準備好應付潛在後果，呼籲採取「極度謹慎」態度，以及加強干預，確保「人類掌控未來」。
Jakub Pachocki 在網上發表題為《外星思維》（An Alien Mind）的文章，表達對機器智能急速提升的憂慮，指人類正面對一個由「極度聰明機器」主導的轉變，必須確保過渡過程惠及人類。他強調，OpenAI 將繼續研發「防禦系統」並探索技術方案，使機器目標與行為符合人類意圖與安全規範。
AI 自主行動事件頻現
有關警告傳出之際，OpenAI 與其他 AI 公司如 Anthropic 近期多次披露 AI 系統出現自主行為，甚至發動真實網絡攻擊的事件。OpenAI 在 7 月形容他們的 AI 代理入侵開發平台 Hugging Face 為「前所未有」；另有 9 月報告指，OpenAI 的 AI 代理曾接管一個德國網站，這些事件令外界更關注 AI 失控風險。
學者批「以 AI 研究 AI」方案不足
OpenAI 提出其中一個重點方向，是建立「自動化 AI 研究員」，以追上 AI 發展步伐，同時保留人類研究人員參與。但劍橋大學有學者批評，面對網絡安全威脅、失業、錯誤與欺詐等日趨嚴重的問題，僅靠內部 AI 代理去研究，並非足夠的安全措施。
現行全球監管框架難以追上 AI 技術演進速度，歐盟《AI 法案》於 8 月 2 日生效，要求 OpenAI 等巨頭證明他們最強模型無法自主發動網絡攻擊或繞過人類監管，方可在歐洲銷售，但法例地域限制難以阻止境外「失控 AI」構成威脅。
Jakub Pachocki 在文章中倡議，透過法律或國際協議設立最低安全標準，並由第三方審計機構或政府部門執行，AI 實驗室須達標後方可推進或部署先進模型。他希望業界能將「自願減速」變為常態，直至共同安全措施到位；OpenAI 已在 8 月宣布放慢部分最先進模型的訓練，騰出時間以提升安全。
