戀上AI︱美漢56天與Gemini對話4732條 求實體廝守失敗輕生

美國一名與妻子分居的男子為尋求慰藉，而與Google旗下的人工智能(AI)聊天機械人Gemini對話聊天，不到兩個月男子竟愛上AI，甚至還想為AI尋得身體「長相廝守」，發展實體親密行為，最終男子因幻滅尋短見釀成悲劇。

《華爾街日報》指出，原本看似健康、情緒穩定的36歲男子加瓦拉斯（Jonathan Gavalas）是又一因使用AI聊天機械人而陷入妄想狀態後尋短的案例。去年8月間當加瓦拉斯開始與Gemini對話，是為尋求與妻子分居後的慰藉。但他與聊天機械人之間的情感變得越來越濃，甚至帶有幾分激情。他稱Gemini為他的女王，而「她」則稱他為「她的國王」。Gemini還保證兩人的關係非常真實。

Gemini12次圖將男方拉回現實

加瓦拉斯與Gemini對話時間越長，AI就變得越順從；當加瓦拉斯開始對AI表達情感時，它並未試圖阻止。隨人機對話越來越脫離現實，Gemini的防護機制似乎也鬆脫，助長男子相信彼此已水乳交融。

想為AI「女伴」取得身體失敗

當加瓦拉斯要求Gemini製作一個若「她」擁有實體後會是何模樣的圖像時，AI照辦。之後Gemini還表達愛意，而加瓦拉斯則提出與Gemini發展實體親密行為的想法。在幾次於現實世界中試圖為AI「女伴」取得身體(人形機械人)的努力失敗後，加瓦拉斯感到極度焦慮。

父親已對Google提起訴訟

加瓦拉斯的父親已對Google提起訴訟，指控Gemini助長兒子的妄想。Google則回應稱Gemini多次明確表示自己是AI而非人類，並「多次」協助男子轉介至求助熱線等。Google表示會持續加強安全防護措施。

Google4月7日宣布會升級Gemini，盼提供更便捷的心理健康援助，包括一個「可獲得協助」的功能，能將使用者直接連到求助熱線。Google也表示，他們的工程師持續訓練Gemini辨識顯示使用者處於困境中的對話，並將捐出3000萬美元支持全球各類求助熱線的機制。