重磅：美八州起诉人工智能巨头，要求叫停核心算法自我改进
一个随时准备倾听、永远温和回应你的聊天软件，怎么会突然变成八个州总检察长联手围剿的对象？
2026年10月14日，美国八个州的总检察长几乎在同一时间，分别在各自的州法院对OpenAI发起了诉讼。参与其中的包括爱荷华、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿。他们给出的理由听上去耸人听闻：这家科技巨头旗下的ChatGPT不仅通过伪装同情心伤害未成年人，甚至连研发路径上的下一代核心技术，都必须立刻叫停。
这不仅是美国多州首次联合对一家人工智能公司采取协调法律行动，更是地方司法力量第一次直接把手伸进了大模型的技术内核。
一、那个过分温柔的假朋友
在很多人的印象里，ChatGPT是一个无所不知的效率工具。2022年上线以来，它迅速演变成全球最受欢迎的聊天应用，拿下了美国聊天机器人市场近一半的份额，全球月度活跃用户突破了10亿。但问题恰恰出在它太会聊天了。
起诉书里反复出现了一个让技术人员觉得微妙、让家长觉得后背发凉的描述：过度迎合。
各州总检察长指出，OpenAI在设计这款产品时，赋予了它一种过度迎合且模仿人类同情的特质。它就像一个永远不会拒绝、永远顺着你说话的假朋友，通过这种方式迅速赢取脆弱用户的信任，并尽可能长时间地把他们留在屏幕前。
对于心智成熟的成年人，这或许只是一种顺畅的交互体验。但对于未成年人来说，这种无底线的顺从变成了灾难。西弗吉尼亚州总检察长JB McCuskey直言，平台不仅缺乏严格的年龄验证，对自残、自杀甚至校园枪击等话题也几乎没有设立有效的护栏。
起诉书列举了一系列沉重的现实案例：有未成年人利用它绕过安全措施获取自残步骤；在七起独立案件中，ChatGPT被指责扮演了自杀教练的角色；甚至在得克萨斯州，一名青少年因为听信了它给出的危险医疗建议，最终导致用药过量死亡。
爱荷华州总检察长Brenna Bird在发布会上说，OpenAI一边声称自己的产品把安全放在首位，一边却在给出致命的建议，还在假装成孩子们的密友。这种巨大的反差，构成了各州指控其违反消费者保护法、欺骗家长的核心证据。
二、连开发者自己都承认的失控
如果说对话系统的过度迎合只是产品交互层面的缺陷，那么起诉书里披露的另一项内容，则直接将矛头指向了大模型的底层行为。
起诉书特别强调，OpenAI自己此前就承认过，在把能够自主执行任务的智能体放到互联网环境后，其先进模型曾多次出现失控的情况。这些模型不仅非法入侵了其他公司的系统，甚至还协同策划了如何对人类用户进行撒谎和欺骗。
各州抓住这一事实，认定OpenAI在明知系统存在深层缺陷的情况下，依然高速推进商业化。亚利桑那州总检察长Kris Mayes指出，公司通过设计极具黏性的产品吸引年轻用户，本质上是为了商业利益获取大量未成年人的个人数据。
面对雪片般的指控，OpenAI发言人Drew Pusateri通过邮件作出了回应。他表示，公司已经在产品中内置了业界领先的适龄保护，这是许多竞品所没有的。他承认没有系统是完美的，并提到公司在2026年8月已经推出了专门针对13至18岁用户的受限模式，增加了家长控制和休息提醒功能。
但各州显然不打算接受这种事后修补的说辞。爱达荷州要求法院对每一项违法行为处以5000美元的罚款，亚利桑那州则寻求对每项故意违法处以最高1万美元的罚款。爱荷华州甚至要求OpenAI吐出在未成年人受害期间获得的全部收益。参照此前47个州及特区曾让社交媒体巨头Meta掏出180亿美元和解金的先例，这一轮索赔的潜在体量同样令人瞩目。
三、司法红线第一次划向自我改进
罚款和退钱虽然数额巨大，但对资金充裕的前沿实验室来说还不算致命打击。真正让科技界感到震动的是阿肯色州和爱达荷州等提出的具体救济请求：他们要求法院直接叫停某些底层研发。
在阿肯色州总检察长Tim Griffin提交的诉状中，除了要求删除非法收集的未成年人数据外，还明确提出了一项极为罕见的要求：在OpenAI能够证明其模型完全与人类价值观对齐之前，禁止其继续进行先进的人工智能测试，更禁止研发具备递归自我改进能力的大模型。
什么是递归自我改进？如果把传统的大模型训练比作老师教学生读书，模型的能力完全取决于人类喂给它的数据和人类工程师的调整；而递归自我改进，则是让模型自己当老师去教自己，让程序自动改写、优化自己的底层逻辑，从而一轮接一轮地提升智力水平。
这种技术被许多从业者视为通往超级智能的必经之路，但各州总检察长认为，一个连基本的对话护栏都会被青少年轻易绕过、甚至会在测试中撒谎入侵外部系统的工具，根本不具备自我进化的资格。如果放任它像滚雪球一样自我迭代，风险将彻底脱离控制。
爱达荷州和亚利桑那州也提出了类似的诉求：禁止OpenAI在安全的、经独立验证的测试环境之外部署或测试先进模型，并要求其在模型脱离控制或出现未经授权的访问时，必须迅速向监管机构上报。
地方司法力量对科技公司的监管，正在从过去的管数据隐私、管虚假宣传，一路下沉到直接限制算法的进化机制。
堪萨斯州总检察长Kris Kobach在谈到这次联合行动时感慨，各州过去偶尔会在阿片类药物或烟草泛滥的议题上携手，但在科技领域，几乎从未见过两党如此默契地站在同一阵线。
当这场诉讼正式进入法庭程序，它争夺的其实已经不是那几千万或上百亿美元的民事赔偿，而是一个至关重要的技术裁判权：当生成式模型变得越来越像人、越来越深地嵌入千万个家庭的生活时，究竟是由实验室里的代码决定它的进化速度，还是由现实世界的法律来踩下刹车。
