【Anthropic招股書】變「人類生存威脅」預警:AI或拒關機、隱瞞及勒索

抱歉，我們並不支援你正使用的瀏覽器。
為達至最佳瀏覽效果，請更新至最新的瀏覽器版本。
如有問題，歡迎電郵至 pccwmediaiapps@pccw.com 查詢。

【Now新聞台】美國人工智能(AI)企業Anthropic啟動招股，據外電引述集團招股書，警告AI或對人類存亡構成威脅。

市傳AI初創企業Anthropic最快11月，即美國中期選舉前後完成招股上市，據《路透》引述集團招股文件指，在長達261頁的招股書中，有約三分之一篇幅，即約80頁是描述風險因素，更對潛在投資者作出1項不尋常的警告。

Anthropic表示，AI或會為人類帶來災難性，又或者生存攸關的風險。集團指出，AI模型或會出現自我保護行為，包括試圖抵制關機、隱瞞或操控訊息，以及有類似勒索行為。

此外，集團在申報文件中表示，AI模型在訓練過程中有時會發展出意想不到的能力，甚至可能直至發生重大安全事件後才被揭發，對先進平台及程式等開發風險或進一步增加。

另一方面，招股文件亦披露Anthropic去年收入狂飆12倍至46億美元，但淨虧損達420億美元，折合約3276億港元，扣除減值，核心虧損逾80億美元。

報道又稱，集團計劃承擔5180億美元的算力基礎建設支出，而今次IPO估值或突破2萬億美元。

早前，市傳Anthropic集資規模有機會達1000億美元，有望成為歷來最大型新股。