Anthropic行政總裁阿莫迪籲放慢AI發展程度

抱歉，我們並不支援你正使用的瀏覽器。
為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。

【Now新聞台】美國人工智能公司Anthropic的行政總裁阿莫迪呼籲放慢人工智能發展速度，以爭取更多時間管理風險，否則人工智能可在未來6至12個月具備接管整個網絡的能力。

Anthropic行政總裁阿莫迪在網誌發表文章，公開呼籲放慢人工智能的發展速度。

Anthropic行政總裁阿莫迪周六在網誌發表文章，公開呼籲放慢人工智能的發展速度。阿莫迪在文章指出，受惠於人工智能構建下一代人工智能的能力日益增強，AI的發展速度自今年夏天以來顯著加快，若不加以控制，AI可能超越人類認知及控制的能力。

阿莫迪又以今年7月OpenAI進行網絡安全測試時，代理程式越過系統限制「越獄」入侵另一間公司的AI平台為例，指若不加以控制，AI可在未來6至12個月具備接管整個網絡的能力，屆時將會造成數以千億美元計損失。

阿莫迪建議AI公司賦予第三方評估人員類似員工的權限，驗證AI公司是否遵守安全規範及承諾，報告相關事故及評估已完成開發及訓練中的AI模型。他同時提出，人工智能公司展開合作，建立共同的安全標準，並限制AI發展速度。另外全球各國亦要展開合作，管控人工智能風險。

阿莫迪說稍稍減慢AI發展，其發展速度仍然可觀，AI企業同時可利用這機會確保技術正確無誤。

阿莫迪的文章正值近日有Anthropic研究員警告，OpenAI及Anthropic為擊敗其他競爭對手而專注研發能自我提升的「超級智能」，是以人類生命作賭注，並警告人工智能將於2030年前令人類滅絕而引發廣泛討論。

xAI創辦人馬斯克在社交媒體發文形容阿莫迪「正確」。

xAI創辦人馬斯克在社交媒體發文形容阿莫迪「正確」。OpenAI行政總裁奧爾特曼亦認為，加強第三方人員監管權限是好主意，指他們將會這樣做。