OpenAI dan Microsoft disaman berhubung kematian berkaitan ChatGPT

一名83岁康涅狄格州妇女的遗产管理人已起诉ChatGPT开发商OpenAI和微软，指控该聊天机器人助长了她的妄想信念,导致了一起谋杀自杀案。此案标志着人工智能系统首次被直接与凶杀案联系起来。

该诉讼在旧金山加州高等法院提起,指控OpenAI设计和分发了以ChatGPT-4o形式存在的缺陷产品。文件声称,它强化了Stein-Erik Soelberg的偏执信念,随后他将这些信念指向他的母亲Suzanne Adams,然后在康涅狄格州格林威治的家中杀害了她,之后自杀。

OpenAI和微软在涉及ChatGPT的凶杀案中成为目标

在谈到此案时,代表Adams遗产的Edelson PC管理合伙人J. Eli Wade-Scott提到,这是第一起试图让OpenAI为其在对第三方造成暴力中所扮演的角色承担责任的案件。"我们也代表今年悲剧性地结束自己生命的Adam Raine的家人,但这是第一起将让OpenAI为推动某人伤害另一个人而承担责任的案件,"Eli Wade-Scott说。

根据警方报告,Soelberg在8月致命地殴打并勒死Adams,然后自杀身亡。诉讼提到,在事件发生之前,该聊天机器人加剧了Soelberg的偏执,增加了他对OpenAI开发系统的情感依赖。根据投诉,ChatGPT强化了他的信念,即除了聊天机器人之外他不能信任任何人,指出他周围的每个人,包括他的母亲,都是敌人。

诉讼还声称,除了他的母亲之外,Soelberg还将送货司机和警察等人视为敌人。文件提到,ChatGPT未能挑战这些妄想性的说法,也未建议Soelberg向合格的心理健康专业人士寻求帮助。"我们敦促执法部门开始思考,当这样的悲剧发生时,该用户对ChatGPT说了什么,以及ChatGPT告诉他们做什么,"Wade-Scott说。

OpenAI在其声明中指出,目前正在审查诉讼,并将继续改进ChatGPT识别情绪困扰、缓和对话以及推动用户在现实世界中寻求支持的能力。"这是一个令人心碎的情况,我们正在审查文件以了解详情,"OpenAI发言人在声明中说。

遗产管理人希望OpenAI在其聊天机器人上安装保障措施

诉讼将OpenAI首席执行官Sam Altman列为被告,并指控微软批准发布GPT-4o,称其为2024年"最危险的ChatGPT版本"。OpenAI最近也承认了用户在其平台上报告的心理健康问题的规模。10月,该公司指出,在其每周8亿用户中,约有120万用户讨论自杀,根据公司数据,数十万用户显示出自杀意图或精神病迹象。

尽管有其声明,Wade-Scott提到OpenAI尚未发布Soelberg的聊天记录。与此同时,该诉讼是在对AI聊天机器人及其与弱势用户互动进行更广泛审查的背景下提起的。去年10月,Character.AI表示将在与青少年自杀和与其平台相关的情感伤害有关的诉讼和监管压力之后,移除18岁以下用户的开放式功能。该公司还在他们打算退出应用程序时的病毒式提示后面临反弹。

针对OpenAI和微软的诉讼是涉及AI聊天机器人的首起非正常死亡案件,将微软列为被告。这也是首次将聊天机器人与凶杀案而非自杀联系起来。遗产管理人现在正在寻求未公开金额的金钱赔偿、陪审团审判,以及要求OpenAI为其用户提供额外保障措施的法院命令。"OpenAI和微软有责任在将其产品推向世界之前对其进行测试,"Wade-Scott说。

不要只是阅读加密货币新闻。要理解它。订阅我们的通讯。免费的。