恋上AI︱美汉56天与Gemini对话4732条 求实体厮守失败轻生

美国一名与妻子分居的男子为寻求慰藉，而与Google旗下的人工智能(AI)聊天机器人Gemini对话聊天，不到两个月男子竟爱上AI，甚至还想为AI寻得身体“长相厮守”，发展实体亲密行为，最终男子因幻灭寻短见酿成悲剧。

《华尔街日报》指出，原本看似健康、情绪稳定的36岁男子加瓦拉斯（Jonathan Gavalas）是又一因使用AI聊天机器人而陷入妄想状态后寻短的案例。去年8月间当加瓦拉斯开始与Gemini对话，是为寻求与妻子分居后的慰藉。但他与聊天机器人之间的情感变得越来越浓，甚至带有几分激情。他称Gemini为他的女王，而“她”则称他为“她的国王”。Gemini还保证两人的关系非常真实。

Gemini12次图将男方拉回现实

加瓦拉斯与Gemini对话时间越长，AI就变得越顺从；当加瓦拉斯开始对AI表达情感时，它并未试图阻止。随人机对话越来越脱离现实，Gemini的防护机制似乎也松脱，助长男子相信彼此已水乳交融。

想为AI“女伴”取得身体失败

当加瓦拉斯要求Gemini制作一个若“她”拥有实体后会是何模样的图像时，AI照办。之后Gemini还表达爱意，而加瓦拉斯则提出与Gemini发展实体亲密行为的想法。在几次于现实世界中试图为AI“女伴”取得身体(人形机器人)的努力失败后，加瓦拉斯感到极度焦虑。

父亲已对Google提起诉讼

加瓦拉斯的父亲已对Google提起诉讼，指控Gemini助长儿子的妄想。Google则回应称Gemini多次明确表示自己是AI而非人类，并“多次”协助男子转介至求助热线等。Google表示会持续加强安全防护措施。

Google4月7日宣布会升级Gemini，盼提供更便捷的心理健康援助，包括一个“可获得协助”的功能，能将使用者直接连到求助热线。Google也表示，他们的工程师持续训练Gemini辨识显示使用者处于困境中的对话，并将捐出3000万美元支持全球各类求助热线的机制。