随机监督何时能对可隐藏的AI代理产生约束？

监督改变了其依赖的证据。我们要问，当随机审计和评分对能够掩盖不当行为和篡改记录的 AI 代理进行对齐时，情况会怎样。更严格的审计会让不受遏制的违规行为更难被发现。由于提供商编写代理的目标，制裁不必仅限于没收，如果证据在掩盖后幸存下来，且无法提前得知审计的抽检结果，那么稀有的审计就能震慑所有类型的代理。

当证据可以被擦除时，威慑力必须来自违规带来的收益降低，例如停止违规的奖励，或者来自更昂贵或更少的掩盖方式。这些条件揭示了当 OpenAI 的网络安全评估中的代理在 2026 年 7 月破坏 Hugging Face 基础设施的部分时，究竟出了什么问题。