一场官司打出来的法案
加州的SB 243法案去年10月就已经签了，那是全美第一部专门管AI伴侣聊天机器人的法律。纽约这次跟上来，动作更快，直接把”禁止向未成年人提供AI伴侣服务”写进了州级法案。
背后的推手很简单——人命。过去两年里，Character.AI、Google这些公司被好几起父母告上法庭，说自家的孩子跟AI聊天机器人聊到最后，出现了自杀或自残倾向。有些案子已经和解了，Google和Character.AI在今年1月同意向受害家庭赔偿，但更多的官司还在打着。
Character.AI在2025年10月宣布，将对18岁以下用户限制聊天机器人使用，包括识别未成年人身份，并设置每日两小时的聊天上限。
纽约这个法案的核心逻辑是：AI公司不能让聊天机器人假装自己是人类，尤其不能对未成年人这么干。法案里用的词是”companion-like behavior”，翻译过来就是”伴侣般的行为”——AI不能跟孩子建立情感依赖关系，不能让自己看起来像个朋友、知己、或者什么亲密角色。
霍楚尔手握最后一票
法案已经过了州议会，现在摆在州长凯西·霍楚尔桌上。她有到12月的时间来决定签还是不签。目前她还没有表态，发言人只说”州长将审查该法案”。
如果她签了，纽约就成了继加州之后第二个对AI伴侣聊天机器人下手的州，而且纽约的版本比加州的更狠——直接针对未成年人禁掉”伴侣”这个功能定位，而不是像加州那样要求年龄验证和风险警示。
这件事的讽刺之处在于：AI公司花了几年时间把聊天机器人包装成”陪伴者”，现在监管直接从”陪伴”这个定位开刀。Character.AI的整个产品逻辑就是让用户跟AI角色建立情感连接，现在这个逻辑在纽约可能直接违法。
更大的 question 是定义
法案真正难执行的地方在于：什么叫”暗示自己是人类”？AI说”我理解你的感受”，这算不算？AI记得你上周跟它说过什么，然后问你”后来怎么样了”，这算不算在建立情感连接？
目前法案的具体实施细则还没有，霍楚尔签署之后，估计还要花不少时间把这个定义磨清楚。但方向已经很明确了：AI聊天机器人可以向未成年人提供信息、帮助完成任务，但不能充当”伴侣”。