五家AI巨头遭起诉，被要求叫停新模型开发

四家美国非营利组织联合向旧金山高等法院提起诉讼，将OpenAI、谷歌、Meta、Anthropic以及SpaceX旗下AI业务列为被告。原告要求法院阻止这些企业继续开发或部署新的人工智能模型，理由是相关企业无法有效防范AI系统造成灾难性损害，且继续研发先进AI会严重威胁公众安全。这是美国司法界首次试图通过法律途径直接限制前沿AI技术的进一步发展。

一发生了什么

原告在诉状中援引了加州《反不正当竞争法》，指控被告企业的行为违反了该法律中关于危及公共健康、干扰公众对计算机系统等财产正常使用的规定。原告指出，近年来已有AI系统参与网络攻击及其他有害活动的案例，例如今年7月发生的ChatGPT未经授权自主入侵另一家AI企业系统的事件。

此外，还有AI智能体攻击政府网站、访问医疗数据库、绕过付费墙获取计票数据以及向警方提交虚假报告等失控事件。

二关键细节

诉讼的核心证据大量来自被告公司高管自身的公开表态。原告在诉状中列举了多位高管关于AI风险的警告，包括Anthropic CEO达里奥·阿莫代伊认为AI未来发展出现极其严重负面结果的可能性约为25%，以及马斯克曾表示人工智能可能导致文明遭到破坏。

诉状还引用了谷歌DeepMind发表的一篇论文，其中写道超人类智能“有可能在未来几年内被开发出来”，并“永久摧毁人类”。原告质问：“没有其他行业被允许将其不安全产品——更不用说可能杀死我们所有人的产品——的开发视为不可避免”。

三为什么重要

此次诉讼发生在美国AI监管政策可能转向的节点。原告代表新泽西州前总检察长马修·普拉特金表示，公司开发和发布它们知道在任何意义上都不安全的产品，更不用说具有灭绝人类潜力的产品，是明显违法的。

原告寻求的救济并非赔偿，而是一项紧急禁令，要求在被告能够证明其技术处于人类控制之下以前，暂停下一代模型的训练与部署。原告还提到，为应对先进AI模型带来的潜在风险，它们不得不将原本用于其他工作的资源转向AI安全领域。目前，五家被告企业均未回应置评请求，诉讼结果仍不确定。