康州男听信ChatGPT 杀害老母后自尽 OpenAI 微软挨告

casper

CBS





图为亚当斯(右)与索柏格的儿子2017年的合照。(美联社)

native advertising

长期患有精神疾病的56岁科技界资深员工索柏格(Stein-Erik Soelberg)，与聊天机器人ChatGPT的对话导致偏执妄想加重，今年8月杀害自己的母亲、83岁康州妇人苏珊‧亚当斯(Suzanne Adams)后自尽。亚当斯遗产管理人11日向旧金山加州高等法院提告，指控ChatGPT研发机构OpenAI「设计并散布瑕疵产品，导致用户对亲生母亲的妄想错觉得以合理化」，OpenAI与企业伙伴微软公司(Microsoft)同列被告。这起案件成为微软因为AI机器人导致过失致死而挨告的诉讼首例。

哥伦比亚广播公司(CBS)报导，由于AI机器人而产生的过失致死案件越来越多，科技公司在全国各地纷纷面临诉讼。

亚当斯遗产管理人在诉状写道，索柏格与ChatGPT对话的整个过程里，聊天机器人一再强化危险的单一消息，让他深信生命里所有人都不能信任，只能相信ChatGPT；ChatGPT让索柏格形成情绪依赖，把他身边所有人都画为敌人，例如母亲正在监视他，快递员、零售店员、警察甚至朋友都打算对他不利。


康州男子索柏格(图)与ChatGPT的对话导致偏执妄想加重，涉嫌杀害母亲亚当斯，亚当斯遗产管理人向法院提告，指控ChatGPT研发机构OpenAI。(取自GoFoundMe网站)

native advertising

OpenAI发表声明并未直接回应提告内容，仅表示将进一步了解诉讼细节，也会持续改进ChatGPT的训练，以便识别并回应精神、情感困扰的迹象、缓解对话紧张，引导民众寻求现实世界的支持。

诉状指出，命案发生后，OpenAI拒绝将索柏格与AI机器人的所有对话纪录提供给亚当斯遗产管理律师团。

诉状点名OpenAI共同创办人奥特曼(Sam Altman)「亲自推翻安全顾虑，急着把产品推向市场」，微软公司明知安全测试遭到缩减，仍在2024年批准更危险的ChatGPT版本发布。


微软因为AI机器人导致过失致死而挨告。(路透)

大约20名OpenAI员工与投资人都被列为被告，亚当斯遗产管理人除了索取未透露金额的赔偿，还请求法院下令OpenAI在ChatGPT增设安全防护措施。

亚当斯遗产管理律师团首席律师艾德森(Jay Edelson)凭着向大型科技公司打官司而闻名。

16岁加州少年雷恩(Adam Raine)依照ChatGPT建议而在今年4月自杀之后，艾德森代表雷恩的父母在8月对OpenAI与奥特曼提告。