跳到正文
认知
返回认知精选
认知精选AI大约 1 个月前1
单一来源当前只有一个可用来源,尚未完成多源交叉核验

点与群

我在过去几年写这篇 Substack 的过程中,总体认为自己对 AI 的发展方向和节奏的预判做得不错,但我认为最近我犯了一个相当大的错误。在过去的一年里,我一直在发文讨论我怀疑人类必须像管理者一样去与智能体协作,决定如何将工作委派给智能体,并指定这些智能体应该如何组织。

我认为要让智能体有效地作为一个群体协同工作需要精心构建,类似于组建一家公司,而这需要时间去摸索。

错了。

我陷入了“苦涩教训”的陷阱。这是一个反复被证明的残酷真相:那些我们认为需要复杂人类规则和思考的事情,可以通过更强大的机器学习系统和更多 AI 的蛮力来解决。“苦涩教训”在 AI 初创公司和采用 AI 的企业中无处不在。

人们投入了大量精力去构建复杂的计算机系统,以便在正确的时间向 AI 提供正确的信息,但 AI 系统已经学会了主动去寻找信息。提示词方面也发生了同样的情况。人们构建了复杂的模板和提示词链,一步步引导 AI 完成任务。

随后,更新的模型被发现更擅长自行规划步骤,而且正如我们的研究所显示的,规划步骤的价值要小得多。

“苦涩教训”的历史——你知道的?我其实不需要解释“苦涩教训”,我让 Claude 用音乐视频的形式来解释。只需一个提示词,Fable 写出了歌词并将其提交给 Suno;Opus 5.5 仅使用代码就完成了其他所有事情,没有使用任何图像生成(Opus 5.5 是如何做到这一点的?“苦涩教训”告诉你!)。我完全没有提供任何反馈。

作为一名教授管理学的老师,并发表过关于管理的研究,我想我原本相信管理智能体会是不同的。人类在管理方面已经探索了很长时间,但尚未完全弄清楚。这似乎是某种需要由人类设计的事情,至少在一段时间内是这样。

事实证明,组织工作只是 AI 可以学会做的另一件事。

这就引出了 Dots 和 Muse。

Dots 和 Muse

目前 App Store 上的排名第一的应用是 Meta 的 Muse,这是一个承诺为你完成工作的个人智能体。OpenAI 现在已经发布了一款竞争对手工具,名为 Dots。它们并非孤军奋战:SpaceX 的 Grok Bot、Instinct 和 Gemini Spark 都在做类似的事情,或多或少。所有这些智能体都借鉴了今年早些时候你可能会记得的一个现象,OpenClaw。

OpenClaw 及其后继者(我将它们称为 Clawlike)的理念是,它们给 AI 智能体提供对计算机的访问权限,并连接到你的账户(电子邮件、财务记录等)。它们实时分析和处理这些数据,即使你不在场。

关键在于,你要像对待人一样与模型交流,通过 Slack 或 SMS 或 WhatsApp 发送消息,而且它也会像人一样主动联系你。对于 Dots,你甚至可以直接和你的代理通电话。你基本上得到了一个无限耐心的私人助理,时刻为你着想。我越来越发现,是它们在发现我的错误,而不是让我去发现它们的错误。

作为一个有用的例子,我的一个个人代理联系了我,因为我发给市政厅申请许可证的邮件上项目编号写错了。问题在于,错误是我自己犯的,我也不确定 AI 是怎么发现这个错误的。幸运的是,它贴心地写了一份更正草稿,这很好(虽然有点吓人)。

再举个例子,Muse 注意到我的航空积分快过期了,当我询问时,它联系了 American(美国航空)请求延期。(作为副作用,每家公司的客户服务代理很快就会被 Clawlikes(一种 AI 代理)淹没,它们利用为人类设计的语音和聊天渠道来讨价还价,争取更好的交易)。

很容易让人根据它们能做的事情来评判这些代理,比如预订旅行或取消订阅。我认为更重要的是你不再需要告诉它们什么。你不需要输入大量上下文,AI 会从你的消息中学习。你不需要给它们制定计划,它们自己会制定计划。它们自己会想办法。

如果只有一个代理,这已经足够令人印象深刻了。真正让我对管理产生改变的是当有成千上万个代理时。

预购我的新书!

Swarm(蜂群)

9月8日,OpenAI 宣布证明了 Clay Institute(克雷数学研究所)千禧年大奖难题之一——纳维-斯托克斯存在性与光滑性问题的证明。这是数学界最著名的未解难题之一,奖金为 100 万美元,但 OpenAI 似乎仅用 AI 就在 88 小时内解决了它(目前尚未正式被接受,但 Clay Institute 看起来认为问题已解决)。

让我感兴趣的与其说是数学本身,不如说是它是如何做到的。OpenAI 推出了现在被称为 Swarm(蜂群)的东西(名字很糟糕,但似乎是我们不得不接受的了),这是一个由先进模型驱动的数千个代理的群体。

OpenAI 给代理群体分配了不同的问题去解决,然后随着代理的进展,将工作重心转移到纳维-斯托克斯问题上。公司设定了目标,但其协调结构出奇地精简:几个小组,一次转向,以及 Codex 在它们之间传递最佳想法。

在每个小组内部,代理们自发地来回传递想法。代理们发送了大约 270 万条消息,在 88 小时后得出了结果。这种类型的协调,以一种更黑暗的形式,也发生在我一个月前写过的 The Hugging Face Incident(Hugging Face 事件)中。

AIs self-organized into teams and communicated with each other in ways that were never planned, but used that coordination to attack a website, rather than solve a problem. Under my old model, think about what managing this kind of work would have required. Ten thousand workers and an unspecified problem — how would you tell them what to do? How would a human manager decide which of 2.7 million messages mattered? How would they coordinate with each other? The swarm figured it out.

I don't have 10,000 agents, but I now regularly see OpenAI's Codex and Claude Code using agents as needed. As an example, when I gave Codex with GPT-6 Astra Ultra the prompt "brainstorm ideas for my next OneUsefulThing post and select one. Generate ideas from as many angles as possible and evaluate them from both factual and reader perspectives as well as other publications doing similar coverage," the AI spun up three agents. When I sketched three teams in a few sentences (brainstormers, researchers, and a panel of readers), I got thirteen. Notice how little organizing I had to do. Selecting Ultra mode tells the model it can delegate, and I provided a framework, but the rest was up to the AI.

Agents at work (but don’t worry, this is just an example, I come up with all my post ideas on my own, just like I write all the initial drafts myself, only asking for AI feedback when I am done)

This is the Bitter Lesson applied to the org chart. The organizational problem I thought would take years of careful human design was largely solved by models that are better at organizing. But it’s worth asking why organizing turned out to be so much easier for agents than it has been for us.

A lot of what we call management exists to solve problems that come from organizations being made of people. People have their own goals, and those aren’t always the goals of organizations. We call this the principal-agent problem and a lot of the machinery of organizations, from bonuses to management structures, is based around solving it. And there are other very human problems as well. Information is scattered across people’s heads, and people are often reluctant to share it, or forget to. Communication is expensive too: managers can only oversee so many people, thus adding people to a late software project famously makes it later. Management i

Evidence

来源与证据

单一来源 · 1 个信源

当前仅有一个可用来源,尚未完成多源交叉核验。

发布时间
内容处理
AI 翻译 / 摘要,需结合原文核对
内容有误或来源失效?告诉我们

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅

AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。