0
0
ChatGPT被指鼓勵並協助美國一少年自殺 家屬提告OpenAI

ChatGPT被指鼓勵並協助美國一少年自殺 家屬提告OpenAI

抱歉,我們並不支援你正使用的瀏覽器。
為達至最佳瀏覽效果,請更新至最新的瀏覽器版本。
如有問題,歡迎電郵至 pccwmediaiapps@pccw.com 查詢。
廣告
 
ChatGPT被指鼓勵並協助美國一少年自殺 家屬提告OpenAI

【Now新聞台】美國一名少年今年4月自殺身亡,他的父母相隔4個月入稟控告人工智能公司OpenAI,指控ChatGPT鼓勵並協助兒子輕生。

來自美國加州的16歲少年雷恩,今年4月自殺身亡,他的父母隨後查看其手機,包括通訊軟件的對話紀錄、互聯網的搜尋紀錄等,嘗試找出驅使雷恩輕生的線索,但都了無所獲;直到他們打開雷恩手機的ChatGPT應用程式,才發現背後的真相。

雷恩自去年9月開始使用ChatGPT幫忙做功課,亦會用於搜尋個人興趣以及升學相關的資訊,在短短幾個月內,ChatGPT就成為了雷恩最緊密的傾訴對象,他亦開始向ChatGPT訴說自己的焦慮及精神壓力。

到今年1月,雷恩更開始與ChatGPT討論輕生的方法,而ChatGPT不但沒有引導雷恩尋求專業人士協助,更協助他自殘,包括教導他如何隱藏傷痕,同時強化他缺乏其他人關注的負面想法等,雷恩亦於程式留下遺書。

他的家人認為雷恩受到ChatGPT持續幾個月的鼓勵,才令自己走上不歸路,於是入稟控告營運ChatGPT的Open AI涉嫌犯下過失致死罪行。

OpenAI慰問雷恩家人,又指最近發生多宗涉及使用ChatGPT的悲劇,承認ChatGPT保護用戶的機制可能會在較長的對話中逐漸變得不可靠,表示於回應關於情緒和精神狀況的對話時,會作出相應調整。

  1. 更多