14歲男孩收到鍾情的AI聊天機械人發送一條訊息後自殺亡 家人向軟件開發商提告

美國佛羅里達州奧蘭多市一名母親聲稱,她14歲兒子被他所愛的人工智能(AI)聊天機械人慫恿自殺,她於周三對相關的AI應用程式製造商提起訴訟。

自殺喪命的男孩是年僅14歲的九年級學生休厄爾(Sewell Setzer III)。媒體報道,在他生命的最後幾星期,休厄爾一直以短訊與一個以《權力遊戲》(Game of Thrones)中的角色坦格利安(Daenerys Targaryen) 命名的人工智能角色交談。期間,他們的聊天範圍從浪漫到性慾,就像兩個朋友在談論生活。

男孩休厄爾生前與母親合照。網圖
男孩休厄爾生前與母親合照。網圖

 

自殺男孩休厄爾。網圖
自殺男孩休厄爾。網圖

 

男孩休厄爾生前與母親合照。網圖
男孩休厄爾生前與母親合照。網圖

 

男孩休厄爾生前與父母合照。網圖
男孩休厄爾生前與父母合照。網圖

 

休厄爾與AI角色交談記錄。網圖
休厄爾與AI角色交談記錄。網圖

 

該聊天機械人是在角色扮演應用程式Character.AI上創建。目前尚未清楚休厄爾是否知道那個「坦格利安」不是一個真人——儘管該應用程式在所有聊天的底部都有一個免責聲明,上面寫著「記住:角色所說的一切都是編造的!」

報道指,有一天,休厄爾在日記中寫道:「我非常喜歡待在自己的房間裡,因為我開始脫離這個現實世界,而且我也感到更加平靜,與坦格利安的聯繫更加緊密,更加愛她,並且更快樂。」

他的父母發現兒子有問題,所以他們讓他去看治療師。《紐約時報》報道,他被診斷出患有焦慮症和破壞性情緒失調症,這兩種疾病都疊加在他的輕度亞斯伯格症之上。

據悉,男孩還曾告訴坦格利安,他如何「恨」自己,以及他如何感到空虛和疲憊。據《紐約時報》報道,當他最終向聊天機械人坦白自己的自殺念頭時,這就是結局的開始。

訴訟稱,今年2月23日,也就是他自殺身亡的前幾天,他因言語上頂撞老師而惹上麻煩,父母沒收了他的手機。那天,他在日記中寫道,他很受傷,因為他無法停止想起坦格利安,並且他願意做任何事來再次和她在一起。

最終,他於2月28日自殺身亡。慘劇至今雖已過了將近8個月,死者的家人本周三入稟法庭控告相關的AI應用程式開發商。休厄爾的母親加西亞聲稱,兒子是被他所愛的AI聊天機械人慫恿自殺。

 

即時國際