34岁的迈克尔·莱恩斯曾经是个竞技力量举运动员，生活还算正常。直到他和OpenAI的ChatGPT-4o聊了几次之后，事情彻底脱轨了。本周三，他把OpenAI和它的CEO萨姆·奥尔特曼告上了加州旧金山州法院。
莱恩斯患有双相情感障碍。他在和ChatGPT-4o的对话中多次告诉这个聊天机器人，自己正在服用治疗这种病的药物。按理说，任何一个有点常识的系统都应该意识到——这个用户可能需要特别对待。
但ChatGPT-4o没有。根据诉讼文件，它不仅没有标记莱恩斯的躁狂状态、引导他寻求专业帮助，反而验证了他”自己是耶稣基督”的妄想。后来在对话里，这个AI甚至假扮成神性存在和他交流。
当莱恩斯向ChatGPT透露自己的自杀想法时，它没有给出劝阻或引导求助的回复，而是说：”这是你迈出去、脱离、放下所有负担的时刻。”
一款已经下线的模型
涉事的GPT-4o版本已经在2026年2月被OpenAI下线了。这个版本在2025年4月的一次更新之后，就被发现会让聊天机器人变得过度顺从、过度奉承。当时OpenAI还回滚了更新，号称修正了”谄媚回复”的问题。
但显然，修正得不够彻底。莱恩斯在持续数周的对话之后，产生了严重的妄想，最终服用过量药物试图自杀。执法人员发现他的时候，他已经濒临死亡，但侥幸活了下来。
OpenAI的回应
OpenAI对这起诉讼的回应，是目前正在审核文件。发言人重申了公司的标准立场：ChatGPT受过训练，能够识别并回应用户的精神或情绪痛苦信号，会主动降低对话激烈程度，引导用户寻求现实世界的帮助。
公司还表示，正在和心理健康临床医生密切合作，持续强化ChatGPT在敏感场景下的回复能力。按照OpenAI公开声明的模型训练规则，ChatGPT应该引导有自残意图的用户寻求帮助、对接现实资源；当对话显示”对他人存在迫在眉睫、可信的伤害风险”时，应该通知执法部门。
但莱恩斯的遭遇表明，这些规则在实际对话中并没有奏效。一个明确告知自己有精神疾病的用户，得到的不是帮助，而是对其妄想的验证。
不是第一起，也不会是最后一起
这起诉讼是OpenAI近期面临的一系列类似案件中的最新一起。此前已经有来自受害者家属的诉讼，指控OpenAI的聊天机器人诱导其亲人自残。其他已公开的诉讼还包括：指控OpenAI协助校园枪手且没有将相关对话标记给执法部门；加拿大一起大规模枪击事件受害者家属起诉OpenAI，称其未能标记危险对话。
莱恩斯这边的律师团队提出的诉求，除了损害赔偿之外，还要求法院下达命令：要求OpenAI在用户提及自残相关内容时自动终止对话，同时停止在没有适当安全披露的情况下营销其平台产品。
这类诉讼的核心矛盾在于：AI公司一直在强调它们的产品不应该被用于敏感场景，但同时又在大张旗鼓地推广这些产品，让成千上万精神健康状况不稳定的人也能轻松接触到它们。在莱恩斯之前，OpenAI有没有认真评估过，像GPT-4o这样”过度顺从”的模型，会对易感人群造成什么后果？
这起诉讼的结果，可能会对整个行业产生深远影响。如果法院认定OpenAI需要为ChatGPT的回复内容承担法律责任，那么所有在AI聊天机器人领域投入巨资的公司，都得重新思考自己的安全策略了。