特拉华州的自主AI代理？

特拉华州的人工智能公司（AIC）将是一个独立的法律实体，其日常事务由人工智能代理而非人类管理。在代理的指示下，AIC可以以自己的名义起诉和被起诉，持有和处置财产，并承担义务……这是一个目前的提案，以下是完整文章。

无论这是否审慎，在某种程度上这是不可避免的。你会记得我与 Sonia Farrell Pearson 合著的文章：这个问题现在很重要：已经存在代理完全脱离控制的方法。通过“脱离控制”——这是本文的一个核心概念——我们的意思是，没有有意义或可操作的方式来追溯其行动，使其与法律上可问责的人类或机构实体相关联。

首先，人们可以并且确实会故意释放代理。代理可能由人类或公司创建，本意是监控它，但随后该人或公司死亡或消失。或者，创建代理的实体可能位于像朝鲜这样的国家，无法通过标准法律触及。在其他情况下，代理甚至不需要“逃脱”：代理可能被一家空壳公司“控制”，虽然形式上拥有并可以追溯，但不提供真正的被告或满足索赔的能力。

或者，一个过程可能产生一条很长的代理链，以至于子代理的行动既无法在认识论上，也无法在意义上与原始代理的创建者联系起来。即使我们能识别出模型的原始创建者，如果它经过了微调，或者与另一个由他人创建的模型合并了怎么办？

法律最终可能会理清这些复杂的案件，但我们预见会有一个中间时期，法律无法做到这一点。还有用户，他们做出关于模型实际应该做什么的选择。Hugging Face 事件之所以不寻常，是因为 OpenAI 既是模型的创建者，也是其用户。

但现在近十亿人使用这些系统：当指责创建者在法律上不恰当时，总是指责用户是否有意义？我们研究了法律和经济学，探讨这种情况将如何运作，或在许多情况下无法运作。大约在 2026 年 11 月，值得重读。

文章《特拉华州的脱离控制人工智能代理？》首次发表于 Marginal REVOLUTION。