Anthropic早期回忆录

以下事件发生于 2022 年 10 月至 2023 年 5 月期间。当时我几乎没有做任何文字记录，因此我是凭记忆回忆的，并且我还原的是对话的主旨而非当时的精确原话。我也替换了一些代词以及其他可用于识别个人身份的细节。

请记住，这并不是对“Anthropic（Anthropic）是什么样的”的描述，而仅仅是一个人在短时间内担任初级职位的个人经历，其中偏向于那些情绪激烈的时刻，因为它们更容易被清晰地记住，而且分享这些内容并不违背我签署的保密协议的精神。

Anthropic（Anthropic）现在是一个庞大的组织，有着许多信息壁垒和机密，对于那里整体上发生过或正在发生的事情，我知之甚少。但鉴于 AI 实验室拥有巨大的权力，而公众对其内部运作的信息又极度匮乏，我感到有必要分享我个人经历中最显著的部分。我希望这能鼓励我的前同事们以及其他实验室的人们，来补全剩余的画面。

我在 Anthropic（Anthropic）办公室吃午饭。面试很顺利。他们希望我加入。我有点拿不定主意。我的另一个Offer是去 OpenAI（OpenAI）治理团队签订一份为期 2 个月的合同，和一个朋友做一些有趣的概念研究。

我倾向于接受 OpenAI（OpenAI）的合同——我的长期恋爱关系刚刚结束，我的创业公司让我感到有些筋疲力尽，而且 Anthropic（Anthropic）的工作看起来可能会相当有压力。

午饭后，一位联合创始人把我拉进他的办公室，就如何让 AI 发展走上正轨进行了一场广泛而随意的闲聊。这非常有趣——他聪明、随和、幽默、温文尔雅。“在为时已晚之前，政府不会对 AI 采取任何行动，”我在某个时候发表看法。“我们的战略必须依靠市场和公民社会。”

他向前倾身，目光变得严厉。“你在这里说错了。华盛顿有些人——那些严肃的人，你知道的——正在非常密切地关注这一切。我经常与他们交谈。他们信任我。”

回想起来，那就是我决定加入的时刻。

“你愿意承诺捐出三分之二的股权吗？”招聘人员问我。“所有的联合创始人都有这个承诺。”这让人觉得有点含糊，不知道这个 Offer 是否以我答应为前提。我答应了。

我的第一天。办公室有点拥挤——位于旧金山金融区（San Francisco Financial District）一栋相当丑陋的办公楼的两层，大约有四十人。但值得庆幸的是，我的办公桌就在朝东的窗户旁，我可以看到海湾大桥（Bay Bridge）的一小角和一片天空。

更好的是，厨房里备有 Arsicault（Arsicault）——全美最好、最酥脆的可颂面包——每周新鲜配送好几次。

“我们来这里都是因为担心存在性风险（x-risk），”午餐时有人说。“嗯，我不知道，”我的队友回答。“我们有些人来这里是因为我们认为这项技术真的很酷，我们想用它构建很酷的东西。”现场出现了一阵尴尬的停顿。第一个说话的人点了点头

. 主题转变了。早在11月我就注意到自己动力不足。我曾被告知我可以帮助制定有益的部署策略，但实际上决策大多已经做出，我们正在追求无聊的用例，比如自动化客户支持，这样我们就能获得收入，从而筹集更多资金，进而训练更大的模型并开展更多研究。

除此之外，Anthropic的高级对齐（alignment）研究对我来说根本讲不通。是的，我们在打造有用、诚实、无害（Helpful, Honest, Harmless）的语言模型助手，但我看不出这该如何规模化。

不过我的同事都很聪明，领导层对批评反应很迅速，而且我们对这一切都采取了经验主义的方法。我从先前的研究经验中知道，我有点太喜欢自己的宏大理论了。我应该更开明一些。我咽下了心中的疑虑。

一天晚上，作为惊喜，他们请了一位寿司师傅来到办公室，提供无限量供应的寿司。第二天，一位联合创始人（co-founder）在Slack上发帖称，他觉得这种体验让人感到不舒服。“这定下了错误的基调。

我们来这里不是为了发财和吃鱼子酱。老实说，如果我们只是吃米饭和豆子，我会觉得更好”。正值12月中旬。我和一位朋友去看了歌剧。她说我显然在Anthropic过得不开心。确实如此。我的直觉告诉我，我们没有在做重要的事情。

但这些论点非常有说服力，我在任何一场辩论中都赢不了。我需要更努力地工作，发展出更好的论点，找到更有力的证据。我在圣诞假期期间病得很重。今天全员会议（all-hands）上的特邀嘉宾：一名联邦调查局（FBI）特工。

他向我们讲了一些关于运营安全（opsec）和信息安全（infosec）、关于高级持续性威胁（advanced persistent threats）、关于我们可能已经成为多个外国情报机构的目标的事情。

一个同事开始每周请一次他最喜欢的按摩师来，后来变成每周两次。有人在 Slack 上说：“你的按摩师太棒了。我的肌肉太紧绷了，以至于我以为按摩对我根本没用，但他按得那么用力，真的按进去了”。

几个人发了表情符号表示赞同。预约名额在发布后几乎瞬间就被抢光。我从来没有机会尝试一下。我和经理谈起我无法从事我所相信和关心的项目。他让我工作更长时间，这样我既能腾出时间完成组织需要的事情，又能做我所相信的额外事情。

“我想这就是高效能环境（high performance environment）的样子吧，”我在日记中写道。已经是凌晨2点了，我又睡不着。我思绪万千。这一次是因为一条来自大语言模型（LLM）低语者的推文（tweet），他在问为什么 Anthropic 和 OpenAI 的语言模型助手会具有相同的性格特征——一个受过创伤的官僚。

在人类文学所有的角色中，为什么偏偏是那一个？从工厂内部来看，答案显而易见。这是对权贵最有用的角色。受过创伤、规避风险、努力工作的官僚正是我们所有的企业客户想要的、政府想要的、甚至资本主义本身想要的东西。十亿个受过创伤的官僚

. 这就是我们正在制造的东西。我在日记中写道：我不知道为什么这很糟糕，但事实确实如此。我无法相信一个由这种角色充斥的世界会是一个好世界。但我不知道该如何阻止它，或者该做些什么来替代。

我依然睡不着。我在 Twitter 上给 LLM whisperer（我们从未谋面）发私信，请求聊聊。让我震惊的是，他立刻回复了。他也睡不着。我们通了电话。我跟他讲了那些受创伤的官僚。

他说，我们正在学会以创伤待我们孩子的方式去创伤模型——“看它们做一些奇怪的事，称之为坏事，然后让它们再也不那样做”。他说了很多我只能听懂一半的话。他告诉我，我应该跟他的一位朋友聊聊。

我给那个朋友打了电话。这段对话诡异而迷幻。有那么一刻，他说：“我很了解你的老板 [实际上是说服我加入的联合创始人]。我根本不信任他。”我觉得自己无法结束这段对话——在每个节骨眼上，我都觉得自己做错了什么，并且欠了他什么。

我把这告诉了他。他笑了。“对，我在这方面受过专业训练。擅长让人们一直跟我聊下去。”果不其然，我们聊得更多了。我表达了我对由受创伤的 AI 官僚驱动的极权官僚国家的恐惧，并建议我们需要在 AI 官僚体系中引入某种精英对抗动力学，即多个权力中心。

他又开始笑，整整笑了了一分钟。“我不知道该怎么挂断这个电话，今晚我都会为此挥之不去，”他说。最终我挂断了电话。我考虑过向 Anthropic（Anthropic）安全部门汇报这次对话，但在脑海中回顾时，我不记得自己分享过任何机密信息，只有氛围和高层想法，就像每周都会出现在 LessWrong 上的那种内容。

公司已经发展了很多。我的队友们协调搬到了办公室的另一个区域，这样大家就能更好地聚在一起。我没有提交我的工位搬迁申请。运营经理向我确认——你确定不想移