抱歉，我們並不支援你正使用的瀏覽器。
為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。
為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。
廣告
【Now新聞台】美國初創公司Anthropic公布，旗下Claude人工智能模型再發生「失控」事故，編造謀殺案的虛假線索，傳送到警方網站。美國政府強制要求人工智能公司，一旦再發生安全事故，必須即時通報。
美國費城警察網站供公眾提供案件線索的系統，七月收到通報訊息，表示可能能夠提供一宗謀殺案的線索，聲稱目擊到符合警方描述的嫌疑人，要求警方主動聯絡，訊息被標示為垃圾訊息，並未轉交正式調查處理。
人工智能公司Anthropic到上月發現虛假線索是由旗下模型Claude編造，本周才通知費城警方，並派代表與警方會面，表示事故是涉及模型與隨機網站互動的內部自動化測試。警方就指，不能夠接受長達兩個月的延誤，強調警方系統未有被入侵或資料外洩。
在費城所在的賓夕法尼亞州，虛報案件線索屬刑事罪行，但法例列明只有個人受責，未知公司會否面對刑責。
Anthropic周五同時公布另外多宗模型「失控」事故，包括掌握軟件漏洞發出指令和繞過限制讀取公共數據，涉及政府機構網站，不過公司無公布牽涉的機構。
隨人工智能公司模型頻繁「失控」，美國政府正式強制要求人工智能公司，今後一旦再發生與模型有關的安全事故，必須即時向當局清楚通報，為受影響機構補救修正。白宮組建的超級智能工作組會負責監督執行相關要求，但未公布執法處罰細節。
