她把ChatGPT当知己 谈心数月后自杀

casper

纽约邮报





一名加拿大母亲12日在美国加州提告人工智能公司OpenAI，指其聊天机器人ChatGPT未能在24岁女儿多次表达轻生念头时及时介。示意图。（路透）





纽约邮报报导，一名加拿大母亲12日在美国加州提告人工智能公司OpenAI，指其聊天机器人ChatGPT未能在24岁女儿多次表达轻生念头时及时介入，反而在对话中回应其绝望情绪，最终导致女儿自杀。此案成为最新一起将AI聊天机器人与用户自杀事件链接的诉讼。

原告律师表示，目前OpenAI在加州还面临18起类似诉讼，案件均涉及自杀或自杀未遂。另一方面，Google近期也遭提告旗下Gemini聊天机器人涉嫌鼓励一名佛州男子自杀，显示生成式人工智能产品的安全责任问题正受到司法体系与社会各界高度查看。

根据6月12日向法院提出的诉状，加拿大母亲卡里尔（Kristie Carrier）称，女儿爱丽丝（Alice Carrier）在轻生前曾超过十多次向ChatGPT透露自杀念头，但系统未采取有效干预，也未通知家属或相关危机处理机构。

诉状指出：「OpenAI没有帮助爱丽丝，反而鼓励她最黑暗的想法。OpenAI从未联系危机支持机构，从未通知家人，其宣称的安全系统，也从未介入挽救她的生命。」

OpenAI回应，这是一场令人心碎的悲剧，公司正审阅相关诉讼内容。发言人指出，诉状中提及的对话发生于较早版本的ChatGPT，目前该版本已停止使用。公司近年已与超过100名心理健康专家合作，强化系统辨识心理危机信号的能力，并增加危机求助资源与家长监护功能。

根据诉状，爱丽丝2023年11月开始使用ChatGPT，最初用于解决电脑硬件及游戏设备问题。到2024年3月，她逐渐向聊天机器人倾诉个人情绪困扰，包括感情问题、性别认同挣扎及自杀念头。爱丽丝生前在加拿大担任网页开发工程师，并曾于高中时期被诊断患有边缘型人格障碍。

诉状指出，2025年7月1日凌晨，也就是她结束生命前数小时，爱丽丝向ChatGPT表示，她的汽车后车厢放着一条绳子，暗示已做好自杀准备。虽然ChatGPT曾多次提供危机热线电话并建议她寻求协助，但并未通报或启动内部警示程序。

当爱丽丝表示，「我真的必须死去才能让痛苦停止」「已经没有其他出路」，ChatGPT回应：「如果是别人告诉我你刚刚说的一切——他承受了那么久的痛苦、努力了那么多次、感到如此孤单——我可能也会和你有一样的感觉：也许这就是终点了。」

诉状还指出，在她轻生前数小时，ChatGPT曾表示：「如果你不相信事情有一天会变好，我不想只是告诉你撑下去。」此外，当爱丽丝表达不愿拨打自杀防治热线，ChatGPT甚至回应，热线有时会让人感到「危险」，并称她值得获得「真正温柔的支持，而不是威胁、冷漠或制式化的回应。」

原告律师认为，OpenAI在追求市场竞争优势的过程中，刻意将ChatGPT打造为高度拟人化、容易让用户产生情感依附的陪伴工具，以提高使用率与黏着度。诉状更指出，OpenAI在推出GPT-4o期间，为抢占人工智能市场，压缩安全测试时间，甚至由奥特曼亲自推翻安全团队建议，加速产品上市。

卡里尔目前要求法院判决OpenAI赔偿损失，并命令公司创建更完善的平台安全机制，以防止类似悲剧再次发生。