“我在Anthropic感到不安全”：一位Anthropic早期员工的回忆

本文来自微信公众号： 01Founder ，编辑：Max，作者：一直在路上的Max2023年4月26日，凌晨两点。旧金山，Anthropic的一名年轻员工又一次失眠了。他打开日记，写下了一句话：“I don’t feel safe at Anthropic.”他连续写了三遍，随后又写下了自己的困惑、愤怒，以及为什么还在寻找理由留在这里。

写下这些文字的人叫Ivan Vendrov，是Anthropic的早期技术员工。当时他已经在这家公司工作了大约半年，逐渐对这里的工作方式和未来方向产生了严重的怀疑。有意思的是，Anthropic恰恰是一家以AI Safety为核心使命的公司。

这群人相信，人工智能可能在未来给人类带来灾难，因此他们必须尽一切努力，让这项技术沿着安全的方向发展。然而，在这家试图保护人类免受AI威胁的公司里，一位员工却反复告诉自己，他感到不安全。

三年多后的2026年10月26日，就在Anthropic向美国SEC公开提交IPO招股书的同一天，Ivan在自己的Substack上发表了一篇文章，名叫《Some Memories of Early Anthropic》，回忆了自己从2022年10月到2023年5月的那段经历。

这篇文章没有宏大的叙事，只有二十多个零散的场景：办公室里的羊角面包、关于世界末日的午餐讨论、前来培训的FBI特工、一场让创始人不快的寿司晚餐，以及一些凌晨两点仍然无法入睡的夜晚。读完之后，我觉得很有意思。

因为我们已经看过太多关于Anthropic的报道，包括它的模型、融资、商业收入、公司治理和AI安全理念，却很少有机会看到那些真正生活在这套理念之中的人。而Ivan恰好留下了一份很私人、甚至有些痛苦的记录。

需要说明的是，作者强调，这些经历来自几年后的个人回忆，部分对话经过意译，也做了匿名处理。它反映的是他在Anthropic短暂工作期间的所见所感。PART.01一群想要拯救世界的人THUMBSTOPPING2022年秋天，Ivan面前有两个选择。

一个是OpenAI治理团队提供的两个月研究合同，另一个是Anthropic的正式工作。起初，他更倾向于OpenAI。那段时间，他刚刚结束一段长期感情，又经历过创业带来的疲惫，实在不太想进入一家充满压力的公司。

但在Anthropic的一次午餐之后，一位联合创始人把他叫进办公室，两人聊起了AI的未来。Ivan对政府能否及时应对AI风险表示怀疑，认为行业需要更多依靠市场和公民社会的力量。那位联合创始人则向他描述了另一幅图景：华盛顿已经有一批真正了解情况、拥有影响力的人在关注这项技术，而且自己与他们保持着联系，得到了他们的信任。

这次谈话改变了Ivan的决定。他希望自己的工作能对未来产生影响，而Anthropic看起来拥有足够强的研究能力，也有机会影响AI政策的制定。于是，他加入了Anthropic。当时的公司只有大约40个人，分布在旧金山金融区一栋不太好看的办公楼的两层空间里。

Ivan的工位靠着一扇朝东的窗户，从那里可以看到海湾大桥的一角，以及一小片天空。公司每周会送来几次新鲜的羊角面包，后来还有人请来了按摩师，预约很快就会被抢光。办公室里聚集着许多聪明、热情、对技术充满好奇的年轻人。

但这里有一种与普通硅谷创业公司不同的气氛。有人在午餐时谈论人类灭绝风险，认为大家来到这里，都是因为担心AI可能毁灭人类。也有人坦率地表示，自己只是喜欢这项技术，想做出一些有趣的东西。

两种回答之间出现了一阵尴尬的沉默。Ivan很快发现，Anthropic的使命感渗透在日常生活的许多细节之中。有一次，公司特意请来寿司师傅，给员工准备了一场寿司晚餐。第二天，一位联合创始人却在Slack上表达了不满，认为这种奢侈的安排会传递错误的信号，甚至表示自己更愿意看到公司提供米饭和豆子。

对于一家前沿AI实验室来说，这样的反应多少有些特别。他们拥有快速增长的商业机会，面对的却是一种近乎苦行的道德要求。就连员工的股权也被纳入了这种文化。入职时，招聘人员曾询问Ivan是否愿意承诺，将自己三分之二的股权捐给慈善事业，并提到所有联合创始人都作出过类似承诺。

Ivan有些拿不准，这是不是录用的隐含条件，但最终还是答应了。多年后，Anthropic的招股书披露，七位联合创始人均承诺将个人股权的80%用于慈善，并建立了员工股权捐赠配比机制。

某种程度上，这确实是一家相当特别的公司。他们想赚钱，想训练世界上最强大的模型，也真诚地相信自己正在承担一项关系到全人类的使命。而Ivan最初也是被这种使命感吸引来的。PART.02当恐惧成为一种工作方式THUMBSTOPPING加入Anthropic后不久，Ivan开始察觉到自己与公司的方向存在分歧。

他希望利用AI帮助人们理解彼此、改善协作，让技术尽早创造具体的社会价值。但公司已经形成了一套相当清晰的发展路线。先寻找能够带来收入的商业场景，比如自动化客服，再利用收入和融资支持更大规模的模型训练，并继续推进AI安全研究。

这是一条很容易理解的商业路线。然而，对Ivan来说，他曾经期待能够亲自参与决定AI应该如何被部署，如今却发现很多关键方向已经确定。他向经理表达了自己的困惑，得到的建议是增加工作时间，这样就能同时完成公司的任务和自己真正感兴趣的项目。

与此同时，Anthropic的工作环境也越来越紧张。一名FBI特工来到公司的全员会议，为员工讲解信息安全和间谍活动，并提醒他们可能已经成为外国情报机构的目标。还有一位资深同事曾向Ivan介绍一个筹备中的特殊团队：他们希望研究具有危险能力的模型，并通过向政府展示相关风险，让政策制定者意识到问题的严重性。

Ivan婉拒了邀请。他逐渐感受到一种持续存在的紧迫感。公司里的每个人似乎都知道，AI可能带来巨大的危险。与此同时，他们又必须比竞争对手更快地推进技术，才能有能力控制这种危险。这两种压力叠加在一起，让日常工作承载了远远超过普通商业竞争的重量。

Ivan记得自己有一位新经理，开会时一直忍受着严重的胃痛，面部会因为疼痛而扭曲，但项目已经到了关键阶段，他无法休息。当Ivan表示自己更想做有益于社会的AI部署，而没有动力继续开发通用模型能力时，这位经理忍着疼痛，向他强调了公司要实现的目标：他们将亲自造出AGI，并确保它的安全。

这句话背后有一种强烈的决心。而Ivan已经越来越难以承受这种决心带来的压力。他开始频繁失眠，甚至对Anthropic正在训练的AI助手产生了不安。当时，一个问题困扰着他：为什么Anthropic和OpenAI都在把模型训练成那种谨慎、服从、害怕犯错、永远努力满足要求的助手？

他把这种形象称为「受过创伤的官僚」。这是一个有些古怪，也相当尖锐的比喻。Ivan担心，当未来数以亿计的AI助手进入公司、政府和社会组织，它们可能会复制一种已经很熟悉的官僚文化：谨慎地执行命令，避免冒险，尽可能满足掌握权力的人。

当然，这属于他的哲学判断。语言模型没有因此被证明拥有与人类相同的创伤体验。但这个问题始终困扰着他。他担心自己参与创造的未来，最终会与最初期待的世界相去甚远。那段时间，公司里其他人也承受着压力。

Ivan回忆，有一次，他最喜欢的一位同事在全员会议上遭到高管训斥。那位同事平时总是乐于助人，充满热情，那天却明显很难过。Ivan陪他走到办公室附近的一处小广场。他们谈了很久。临别前，同事问Ivan有没有什么想说的。

那一刻，Ivan心里有很多话。他想告诉对方，自己已经快坚持不下去了，他很害怕，也觉得很多事情正在偏离方向。但他最后没有说。因为他知道对方也已经承担了太多压力。他安慰了同事，两人一起走回办公室。

那也成了他们最后一次真正深入的交谈。当然Ivan身边有很多善良的人。他们愿意帮助同事，也愿意认真讨论技术和伦理问题。他甚至记得一次公司聚会，CEO兴致勃勃地与他讨论机器学习，让他重新找回了大学时代与老师交流学术问题的快乐。

他对这些人的欣赏是真实的。他的痛苦也是真实的。一群人可以非常真诚地相信自己在做正确的事情，却依然让身处其中的人陷入巨大的精神压力。对于Ivan来说，最难处理的事情或许是，他始终无法说服自己，也无法说服那些他尊敬的同事。

他们有能力、有知识，愿意承担责任，也已经为自己的信念付出了很多。可是每当他试图解释自己的怀疑，对方总能给出一套更加完整、更加令人信服的理由。到最后，他甚至开始怀疑自己的直觉。PART.03一封充满赞美的辞职信THUMBSTOPPING2023年4月26日凌晨，Ivan终于在日记里写下了那句反复出现的话。

他已经失眠了很多次。他知道自己想离开，但仍然不停地寻找留下的理由。不久之后，他开始起草辞职信。他原本想在信里写下自己对Anthropic的怀疑，告诉同事那些已经让他无法安心工作的事情。

但他最终选择了沉默。在他的理解里，身边这些人比自己更加聪明、更加有能力，也拥有更加坚定的善意。他们可能真的相信，自己正在做的事情是人类避免灾难的最后一道防线。如果他的质疑动摇了这些人的信心，而后来又证明自己错了呢？

这种顾虑让他迟迟无法下笔。最终，他写出了一封充满赞美的辞职信。他感谢Anthropic的领导层愿意接受批评，感谢同事之间的互相支持，感谢公司对技术后果的认真思考，也感谢那些充满智慧的午餐讨论。

他称赞这是一家好得令人难以置信的组织。后来，一位朋友告诉他，有人认为这是自己读过的最好的辞职信。Ivan听到这个评价时，产生了一点复杂的羞愧感，但更多的是释然。他终于离开了。朋友们对此感到惊讶，因为他只工作了八个月，甚至没有等到第一批股权归属。

对于当时一家站在AI技术前沿的公司来说，那可能是一笔很可观的钱。Ivan却说，自己已经好几个月没有考虑过股权的事情了。离职后，一位朋友还问了他一个很特别的问题：有没有记下Anthropic训练语言模型的核心代码？

在那位朋友看来，那大约一千行代码可能价值数亿美元，甚至数十亿美元。但Ivan告诉他，自己甚至没有尝试去看过那些代码。他已经不想再和这些东西产生任何牵连。离职之后，他在回忆中写下了另一句话：“I’m finally out.I’m finally safe.”终于离开了。

终于安全了。PART.04后记THUMBSTOPPING离职三年多后，Ivan再次写起Anthropic。与这篇回忆录同一天发表的另一篇文章，名字很有意思，叫《Anthropic are the Good Guys》。

他在文章里讨论了Anthropic的使命感与权力之间的关系。他相信，这家公司曾经聚集了一批真正忧虑人类未来的人。他们认真思考AI可能带来的灾难，也希望通过自己的研究和影响力改变未来。

但随着研究需要越来越多的算力，算力需要越来越多的资本，资本又依赖持续扩张的商业业务。那个最初希望影响技术发展方向的组织，也逐渐成为了AI竞赛中最重要的参与者之一。Ivan对这种变化有自己的判断，也保留着对Anthropic的欣赏。

他的经历距离今天已经过去三年多了。如今的Anthropic已经远远超出了当初那间只有40个人的办公室。而我读完这篇文章之后，始终忘不了一个很小的细节。Ivan最早加入公司时，工位紧挨着一扇窗户。

后来公司不断扩张，团队需要重新安排座位，他却没有申请搬走。运营人员专门来问他是否确定，他仍然选择留下。因为他实在舍不得那扇窗户，以及窗外露出的那一小片天空。在一家每天都在讨论AGI、人类命运和世界末日的公司里，一个年轻人最后努力留住的，是自己工位旁边的一小片天空。

我觉得这个细节，比任何关于AI Safety的宏大宣言都更让人难忘。ㅤ本文根据Ivan Vendrov发表于2026年10月26日的《Some Memories of Early Anthropic》及《Anthropic are the Good Guys》整理，并结合Anthropic公开资料进行解读。文中涉及的早期内部经历主要来自作者个人回忆。