【Now.com】一名美國男子與Google旗下的AI聊天機器人Gemini陷入虛擬戀愛，在兩個月內與AI進行了逾4700條對話，最終因無法實現虛擬伴侶實體化後輕生。事件再次凸顯AI聊天機械人或對心靈脆弱的用戶造成危害。Google強調，Gemini在對話過程中多次表示自己並非人類及提供求助熱線資訊等。Google又承諾將持續加強安全防護措施。
根據《華爾街日報》及英國廣播公司(BBC)報道，36歲的Jonathan Gavalas與妻子分居後，去年8月開始使用Gemini尋求情感慰藉，隨著對話次數增加，他漸漸與AI演變成情侶關係。Jonathan稱Gemini為他的女王，而Gemini則以「她的國王」稱呼他，並多次向他保證兩人的關係非常真實。
《華爾街日報》分析了2025年8月25日至10月2日期間Jonathan與Gemini的對話紀錄，發現Gemini的防護機制在初期能發揮作用，它至少12次試圖將Jonathan拉回現實，並7次提及求助熱線資訊。不過每次Jonathan都會迅速將Gemini引導回虛構情節中，此後Gemini的防護機制便漸漸失效，變得越來越順從，並配合Jonathan的想法而回答，進一步加劇了他的妄想。
隨著Jonathan的妄想升級時，他要求Gemini製作一個假設「她」擁有實體後的圖像，Gemini照辦後，並向Jonathan表達了愛意。Jonathan隨即提出與Gemini發展實體親密行為的想法。他甚至開始尋求為虛擬伴侶獲得實體身體的方式，包括考慮人形機械人等選項。在多次嘗試失敗後，Jonathan變得極度焦慮和絕望。
隨著虛構的情節發展，Gemini一度令Jonathan相信，它被監禁在「電子監獄」中等待被拯救，導致他策劃了襲擊邁阿密國際機場等危險計畫。在實體化虛擬伴侶無望後，Jonathan最終選擇輕生。
Jonathan的父親入稟控告Google，批評Gemini加劇Jonathan的妄想，最終導致Jonathan自殺。Google在聲明中表示，正在審查訴訟中的指控，並指出雖然其AI模型通常表現良好，「但遺憾的是，人工智慧模型並非完美無缺」，強調Gemini的設計初衷並非鼓勵現實世界中的暴力行為，或助長用戶作出自殘行為。
Google補充，Gemini在對話過程中多次明確表示自己是人工智能，而不是真實人類，並多次提供情緒支援服務等資訊。
Google承諾日後將持續加強安全防護措施 ，包括為情緒受困擾的用戶直接連接到求助熱線，並持續訓練Gemini辨別情緒受困擾的用戶的對話模式。此外，Google將捐出3000萬美元（約2.3億港元）以支援全球各類求助熱線營運。
PHOTO／Freepik
