抖音凭什么管好算法？

出品｜虎嗅ESG组作者｜陈玉立头图｜视觉中国本文是#ESG进步观察#系列第178篇文章本次观察关键词：算法治理“算法肯定是可控的，不可控它上不了线。”在一次近四小时的对话中，抖音生态运营组刘霄（化名）用这句话回应了一个盘旋在推荐系统上空多年的问题：算法究竟是平台可以控制的工具，还是连平台自己也说不清的黑箱？

过去几年，对抖音算法的讨论常有，如2024年钟睒睒公开喊话抖音要求道歉；再比如近一年“满汉全席吃人”“华伦天奴祖上是满清贵族”“红楼梦悼明”等谣言被算法推送，引发公众质疑。这些争议也是本次对话的意义所在，虎嗅ESG组关注的是一个更直接的问题：当一个日活数亿的内容平台声称自己在认真治理内容生态时，它的治理究竟在多大程度上是真实的，又在多大程度上只是一种系统性的自我辩护？

按照刘霄在对话中的陈述，一条视频能否进入流量池、会被推荐给谁、能获得多大流量，既取决于用户行为，也受到安全审核、推荐目标、内容质量、价值导向、人工规则和经营决策的共同影响。换句话说，抖音不是在把内容交给算法之后便失去了控制，它一直在通过不同层级的机制校准这台机器。

但有能力控制和愿意为控制承担代价，是两件完全不同的事。借着这次近4小时的对话，我们想弄清楚一件事：在“可控”这两个字背后，抖音究竟把哪些内容拦在了流量池之外，又把哪些流量让给了事实与理性，当一个日活数亿的平台开口说“我在治理”时，这句话真实的分量、代价与边界，究竟在哪里？

一一条视频的生死线

：治理到底在治什么？ 虎嗅ESG组： 外界对抖音最直接的一个批评，就是短视频上瘾。你们内部会回避“沉迷”这个词吗？刘霄： 我们确实发现，内外部视角差别很大，很多事情外界不理解，因为听起来反常识。

“沉迷”是第一个反常识的事。抖音是一个数据驱动的产品，经常面向用户做调研。其中一个反馈是：有用户觉得“沉迷感很重”，这恰恰是他们离开抖音的重要原因。用户为什么走？刷了很多东西，但最后觉得没收获、内容浅。

从平台角度，我们当然希望用户能够长期信任并使用抖音，我们希望改善的方向，是让用户有价值感和收获感。为降低“沉迷感”，我们从前台产品、中间层数据到底层模型做了很多事，努力让抖音上有更多有价值、有营养的内容供给。

虎嗅ESG组： 既然不追求沉迷，那能否系统地讲一下，抖音的治理到底在做什么？刘霄：抖音的治理非常复杂。整体有一套大体系，业务流程叫四个环节：定义、识别、处置、沟通。第一步是定义：什么样的内容应该被治理、被拦截、不应该被过度分发。

大体分几类：第一类是涉及法律底线的违法违规问题；第二类是违反公序良俗、易引发用户反感不适的问题，严重的会下架；第三类是违背平台运营规范，不利于构建健康的平台生态和创作公平环境，比如搬运抄袭，背后可能是恶意营销号在工业化、批量化地生产，造成了内容的严重同质化，这些都违背了平台鼓励原创的原则，也是要清理处置的。

从平台内容生态的角度，我们希望创作公平，鼓励真诚创作。第二步是识别，两个主体：人工审核员和机器。抖音每天新增视频近 1 亿条，没有任何人工团队能单独解决。这也是为什么第一步定义要非常清楚——你既要教会人工审核员按标准拦截，也要教会机器。

我们针对不同领域训练了很多模型，比如识别网暴和谣言各自有不同的模型。在内容发布前，需要机器对所有内容是否存在违法违规等底线问题进行审核；随后，流量越高的内容经过评估的次数越多，标准也越严格。

而像金融、医疗、国际问题这种专业性门槛很高的，有专门的高级编辑团队。第三步是处置，依据法律法规做梯度策略：有的是流量层面管控；有的是账号层面；有的是单条内容层面。第四步是沟通。绝大多数用户不知道标准和规则在哪，所以我们有一份《抖音社区自律公约》，是治理体系的外化公开版本。

但公约太长，不可能让用户像背法条一样背下来，所以用户触发某条规则时，我们会同步告诉他命中了哪条，他了解之后自己就能规避。抖音App内的《抖音社区自律公约》虎嗅ESG组： 底线类问题好办，就是违规不违规。

像第二类违反公序良俗的内容，有统一标准吗，怎么治理？刘霄： 我举两个例子。有一类是引人不适的内容，比如蛇虫鼠蚁，很多人看了不舒服、很反感，但蛇虫鼠蚁视频里也有优质的科普内容。算法会基于用户举报、点击不喜欢等行为，避免那些吸引眼球、引人不适的视频过热，其中严重引发不适的内容，会被下架处理。

还有一种典型案例是涉及传统习俗的，在山东部分地区，过年会给长辈磕头，家族里年长的坐在前面，下面几十个亲戚磕头，评论区在激烈地吵架，一派说“大清都亡了多少年了”，一派指责你们不尊重传统习俗。

这种内容在一部分人群中容易引发争议对立、负向情绪，平台会综合用户的行为反馈和问卷调研结果，如果发现用户确实不喜欢该内容，就会减少相关内容的推荐。另外算法会尽可能地在用户兴趣维度上分发更好的内容。

二争议热点事件怎么治

？虎嗅ESG组： 对一些发生在抖音的争议热点事件，大家会怀疑这背后是不是有人在借此做营销，对这些争议热点的治理是什么机制？刘霄： 去年 5 月我们出了一份《抖音社区热点信息和账号治理规则（试行）》，是跟主管部门、专家、媒体多轮前期沟通之后，依据法律法规和平台实践做的。

这个规范确定了抖音治理热点事件的五个原则，基本反映了争议热点事件涵盖的主要几类风险内容。除了第一条讲“依法依规运营，落实主体责任”，后面主要是四个方向：第一，治理事件中的不实信息，让事实更好地传播。

很多事件跑偏就是因为谣言，大家听信谣言、被极端情绪带着走。第二，有些事件事实传播没问题，但很多账号发极端观点，最后导致整个网络情绪撕裂，这是要控的。第三，治理蹭热营销号。恶意营销号是我们的一个治理专项，外界可能觉得平台欢迎营销号，觉得他们有流量——这又是一个反常识：抖音不欢迎恶意营销号，他们内容低质，长期用户不喜欢。

而且他们为了起号，一有热点就蹭，为了流量发表不负责任的言论，这是我们治理的关键方向。第四，相关当事人的保护。一方面是网暴；另一方面，我们在规范里写了一条：不希望热点当事人在风口浪尖马上变现。

这条当时在和一些法学家交流时受到了质疑——他们说这是当事人的权利，没有哪条法律规定不能变现。我们后来解释：平台实践中发现，大量争议热点当事人因为想快速变现，最后动作变形、自己塌房，钱没赚多少，平台被骂、舆论乌烟瘴气，是多输。

这四个方向后来落成了业务治理链路：有专门团队研判什么样的内容有问题；机器判断里面有没有不实信息或极端言论；运营把权威媒体传达事实和理性观点的内容做更多传播。最终就两个目标——让事实传播得更多，让理性的声音传播得更多。

抖音安全与信任中心内的热点专项动态虎嗅ESG组： 目前抖音的算法会服务商业目标吗？插入更多广告、更多电商内容，路径是什么？刘霄：平台主要的变现方式是广告和电商，这里面当然有平衡，广告对很多人来说也是有效信息，但每个人体感不同，如果推多了，有一种用户反馈的声音是“营销感太重”，也会让用户流失。

有些所谓“不好的商业变现”，商业化和电商团队在治理。比如有电商主播，内容和言行的价值导向不好，会限制他的带货权限，严重的直接禁。再比如有些广告，实际服务跟不上——比如一些不正规的防水补漏广告，线下履约很差，我们也清掉。

商业变现必须跟社区整体价值导向一致，因为平台最终重要的一个指标是“用户体验”——活跃度掉了、营销感太重了，数据都会反馈回来。我们会定期做用户主观调研，包括满意度、营销感访谈，反过来推动业务优化。

虎嗅ESG组： 大部分行业人的常识里有一个预设，觉得商业目标和治理目标天然冲突，应该警惕平台为了商业利益牺牲治理。这个预设对吗？刘霄：这个是典型的误解，外界可能觉得抖音需要更多流量才有更多商业利益，所以会推有争议的、低俗的、爱互骂互撕的内容——这条链可能看起来特别合理，但在业务场景里站不住脚。

前面说了，我们追求的是用户长期能够信任、使用抖音，而不是短期的数据指标，我们的商业回报也建立在这个前提上。而不良内容会降低用户对抖音的信任，甚至直接把用户驱离抖音。先说狭义的争议——引战对立、愤怒诱饵、男女对立、族群对立、婆媳对立这类内容，我们分供给侧和消费侧看：供给侧，用户发出来的对立攻击评论，占总评论量的比例极少；

在消费侧，对立攻击评论的实际展现，比供给侧几乎要再低一个数量级。再说争议热点事件，这可能是大家对抖音负面观感最主要的来源。这些争议事件在抖音流量大盘中的占比也非常非常低，任何一家理性的公司，不会为了如此低的流量去承担这么巨大的舆论风险。

这些争议内容、恶意营销号带来的流量，对抖音来说是完全的负资产、毒流量。“愤怒诱饵”成为2025年牛津年度词汇三、算法到底是谁说了算？虎嗅ESG组： 抖音现在怎么理解算法的？它是人能控制的系统，还是人摸不着的黑箱？

刘霄： 我们团队去年第一次把抖音算法系统梳理了一遍并对外公开。用一句话总结：算法是通过AI机器学习技术，对用户过往的行为建模和计算，来推测用户未来对不同信息的行为概率。先把用户的各种行为特征——过往行为、点赞、收藏——转化成数学向量；

再把各种内容也转化成数学向量；然后计算内容和用户在向量空间里的关系。抽象成二维或三维空间，每个用户是一个点，每个内容是一个点，用户喜不喜欢一条内容，最后算的就是两个点之间的距离。这一点特别重要，因为它能回应外界一个典型误解：大家觉得平台明知道有些内容有争议、有流量（比如网红跳舞），所以主动去推，其实不是的。

在推荐算法的语言里，它根本不知道什么叫“争议事件”，也不知道什么叫“网红跳舞”，它只知道这个内容的点跟这个用户的点离得近。为什么近？因为用户一次次行为反馈，每次反馈都在数学空间上把用户的点和某些内容的点拉得更近。

算法没有一个固定的判断说“你这个人就喜欢什么”，它是动态的，你每次快速划走、点“不喜欢”，都是在校准它，最终计算出某位用户和某些内容之间存在多大程度的数学统计关联。具体一条视频发出来之后，流程是这样的：第一步先过安全审核——审核在分发之先。

传统媒体里，把好稿子挑出来和把风险内容删掉是一个编辑同时完成的，但今天我们的技术做不到一个算法既管分发又管审核，所以分发算法和安全审核算法是两套系统。过了审核，内容进入内容池，下一步就是召回和排序。

召回是从这几千万条里，用比较粗的模型快速算出你可能喜欢的几千条，进入后面的排序。排序又分粗排、精排、混排，用更精准的模型算这几千条里你最喜欢的 100 多条应该怎么排。它不是算单条，而是算一组——比如前 6 条全是萌宠，用户会腻，所以混排要算一组 12 条视频构成的整体最优解。

我们会综合考虑推荐的多样性、时效性，降低密集出现同类型内容的情况，避免用户体验差。这里讲的算法算出你“喜欢”是一个简化的表达。算法实际上是计算用户各种交互行为的概率，通过行为概率判断用户对内容的态度。

而引导算法判断用户行为的，是多目标体系。推荐算法在诞生之初只关注少量的目标，比如完播、点赞，完播率高的短视频，更容易获得推荐。但随着平台内容和各方需求日益多元化，单一目标已难以满足实际需求，多目标推荐系统成为主流。

抖音算法的多目标价值体系。来源：抖音安全与信任中心今天抖音的算法多目标体系已经非常复杂，这些目标会影响算法对内容的推荐结果。举个收藏目标的案例。我们曾经收到一些用户的反馈，希望在抖音可以看到更多信息价值高、有获得感的内容。

我们也一直努力通过优化产品，帮助用户更有效地找到这类内容。抖音上有很多有深度的内容，但挑战在于：越有深度的内容，其受众需求越精准，推荐好这类内容的难度也越大。后来分析发现，这类内容都有一个特点：用户会收藏起来，甚至反复观看。

于是，我们就将收藏按钮移到显眼位置，并优化了收藏内容的推荐逻辑。之后我们发现，更多用户养成了用收藏的习惯；随着更多的收藏，这类内容也被推荐给了更多可能喜欢它的用户；而能持续创作这类优质内容的作者，也获得了更多流量。

由此形成了良性正反馈。类似收藏功能的优化，这样的产品和算法改进，抖音还做了很多，背后都是我们对优质内容生态的追求和探索。简单说，算法从单一目标变成多目标，实际上是通过调整用户行为权重来改变内容导向，调高收藏、复看等目标权重，就会导向更有获得感的内容，让用户和作者建立更长期的关系。

“收藏”次数超百万的视频能获得更多推荐虎嗅ESG组： 算法能多大程度上理解、判断内容质量，一个受用户欢迎但有问题的内容，是否有可能被过度分发？刘霄：平台是对内容做判断的，我们有明确的社区运营主张，鼓励原创、鼓励优质的表达，不希望争议性言论和争议性行为在抖音获得很多流量。

这些写在整体平台工作指导里，会指导产品设计、流量分配和规则制定，我们也会把这些加到推荐系统的目标里，对流量进行约束和引导。优质内容有单独的推荐通道，原创也有专门扶持；恶意营销号有专门规则限制和打击。

我举个特别具体的例子。外界这两年很关注“愤怒诱饵”，觉得平台是不是在主动推引发愤怒的内容。我们算法团队做了一件事：把用户看完一条视频之后，有多大概率发出正向评论、多大概率发出恶意诅咒攻击评论，作为一个预估目标，纳入多目标体系，最后加总到概率分里。

如果一条视频分出去，绝大多数用户发的是正向评论，它总分就高，被推荐概率就大；如果引发的是恶意攻击，它总分就降，分发概率就小。这里有个很重要的原则：正向评论不等于只让用户看到跟他一致的声音。

不同立场的交流，只要是客观、理性、友好、平和的，也算正向评论里的一类。我们希望用户能看到丰富多元的声音，但同时规避不同立场的人引战吵架。评论区的正向反馈，让视频获得更多分发虎嗅ESG组： 为什么外界总觉得有一个超级大模型在背后什么都知道？

刘霄： 这个误解特别普遍。大家想象有一个主模型，所有内容过一遍，既判断违规又判断该推给谁；但今天没有那么强大的模型，既能做分发也能做治理，现实中分发算法和治理算法是完全不同的，建立在完全不同的能力之上——一个学习并预估用户行为，一个学习治理标准问题样本，而且无论分发还是治理都有很多个模型互相配合，每个模型能力都是有限的。

其次，推荐算法只能根据特征识别，不像人一样基于逻辑情感意义价值进行理解。安全算法同理，只能学习既有样本，对于新问题没法像人一样理解，所以模型和人所谓的“知道”是不同的，注定有局限性。

第三点，算力有限的现实条件决定了，即便以现在的技术能力，也没法通过做“全量计算”让模型“知道所有信息”。我们可以算一笔账：假设平台有 100 亿条视频，每条视频用 128 维向量表示。

那么用户每刷新一次推荐页，就需要和这 100 亿条视频分别计算一次点积。一次点积大约包含 256 次浮点运算，算下来约2.6万亿次计算，用户不可能等计算结果跑完。更何况，这种计算不是一天一次，而是每时每刻、每一个用户每一次上滑都在发生。

所以行业最佳实践就是召回：先用简单模型在 50 毫秒内（人眨眼要 100 毫秒）把几千万条粗筛到几千条，再交给精排模型细算。审核也一样，每个治理专项（谣言、网暴、不实信息）都要对内容先做一轮召回计算。

这套系统由很多个模型串并联组成，肯定会有遗漏，因为召回有两个指标：召得全不全、准不准，两者天然有张力，准召率不可能 100%，我们的目标是尽可能把遗漏的风险压低。抖音谣言治理流程模型四、抖音不替你决定看什么虎嗅ESG组： 那我问另一个问题。

一个用户可能越刷越多低俗争议内容，越刷越认同某个极端观点。这种越刷越深、信息极化的现象，抖音会如何治理？刘霄： 这个问题有两个层次。第一是单一内容消费导致的信息茧房；第二是因信息茧房产生的观点茧房、信息极化。

先说第一个。我们做过数据研究，看推荐内容多样性和用户长期活跃度的关系，结果很反常识：14 天周期内，二者相关性不显著，甚至某个阶段信息越多样，活跃度反而下降；但把时间拉长，14 天之后，推送越多样，用户长期活跃度越高。

内容推送越多元，平台长期用户活跃度越高道理很简单：你再爱吃汉堡，一年 365 天吃也会腻，最后换一家餐厅。用户确实在某个阶段特别喜欢刷某类东西，但一直给他，他最后会走。所以算法非常重要的一件事，就是帮用户探索更多样的内容。

这种探索有两类：一类是用户在过往行为中表达的兴趣点，一类是还没有表达过的兴趣点。那为什么有的人觉得刷到的内容比较集中？两个原因。第一，人性的阅读规律就是这样，绝大多数人的兴趣分布不均匀，就集中在几个窄领域——我自己是足球、科普、政治，你推别的，我偶尔看一个其他领域里特别好的视频，但那不是我的兴趣。

第二，探索长尾兴趣和长期兴趣在技术上很难：用户短期集中看一类内容，信号特别多；但有些兴趣一年就看两三次，信号稀疏。我们专门训练了几个模型（长尾兴趣模型、长期兴趣模型、多元兴趣模型）去解决这个问题。

但探索永远要在精准和多样之间平衡：推太准用户会腻，推太散用户觉得“这不是我想看的”，信息没用。所以不是漫无边际地推，而是基于你既有行为，在数学关联上找相近又略新的东西。第二个观点极化的问题，在担忧“信息是否多样”的基础上又延伸了一层，担心内容推得太单一，进而导致用户情感态度和价值立场的极化。

这个担忧很普遍，也是我们重点在做的。整个工作分两块：分发侧和治理侧。分发侧刚才讲了，多目标体系里天然有“探索维度”——不断给你推以前没看过的东西。同时，我们把“看完后更大概率发正向评论还是负向评论”作为预估目标，攻击对立的内容会得负分，被分发概率会降低；

而理性平和的不同立场交流，在正向评论里是加分项，会被更好地推荐。此外，抖音算法还有长尾、长期、多元三个专门的兴趣模型，也是帮助探索新内容，打破原有兴趣茧房的。治理侧分两层。一层是安全：明确违法违规的，标准明确，命中就直接处置，不分发。

另一层是争议生态——没有命中安全底线，但在灰度区域。比如引战对立的内容、厌世戾气这种负面情绪的内容，按照梯度，减少分发。还有一类是前面讲过的争议热点事件调控——传事实、压极端观点、打蹭热营销号、保护当事人。

虎嗅ESG组： 用户有自己天然的兴趣，对平台来说，他究竟来消费什么内容，是用户自己的选择吗？你们会不会替用户判断他应该消费什么内容？刘霄： 答案是不会，算法会尽量给用户推荐更多样，帮用户打破“茧房”，但最终用户是否消费，还是看个人行为。

算法能从内容维度做拆分和探索，但没法从用户维度替他决定看什么，你推了，用户不感兴趣还是会划走。不过需要强调的是，“信息茧房”最早是一位美国学者在本世纪初提出的，提出时不是严谨的学术概念，那时候推荐算法也没兴起，传播学界多年来也没有实证研究、量化数据支撑“算法导致信息茧房”。

国内外有许多研究证明，一个用户在社交媒体算法的场景里，对比在按发帖时间排序、仅看关注列表等信息环境，看到了更丰富的内容——推荐算法反而比其他方式让用户接触到更多他本来不看的内容。但这个词翻译过来挺生动的，在我们生活和日常讨论里很好用，所以在中文舆论场能流行起来。

对于大众语境下的信息茧房问题，平台更多还是从内容本身去做判断，内容有没有问题？有问题就管，不适合广泛分发的，从流量上做控制，不让它过热。另外，我们也会单独考虑特殊人群，比如未成年人，走专门的未成年人保护和内容消费逻辑。

美国学者桑斯坦在2006年出版物《信息乌托邦》提出“信息茧房”（Information Cocoons）虎嗅ESG组：大模型现在在治理里能做哪些以前做不到的事？刘霄：典型的是不实信息治理。

以前谣言热了一段时间，人工编辑发现，再去跟官方谣言库核对，链路很长，谣言已经有影响力了。现在模型可以联网检索，一边跟上千家权威信息网站比对，一边研判是不是谣言。但现在的 AI 也有短板，比如，大模型没有人的情感与情境理