AI之恶，算法背锅？

操控人类的算法武器。

作  者 | 沙 棠  编  辑 | 伊 页

AI该为用户服务，还是为平台服务？

有人认为可以利用AI处理和分析大量数据，帮助企业和组织提取有价值的信息，以便更好地做出决策。而有的人则认为AI的发展取决于使用它的人，人的价值观就能反应在AI之上。

陈伟星就是后者。近日，字节跳动早期投资人陈伟星公开表示抖音的AI算法只为实现自己的意图，用算法推荐等AI技术对所有和它交互的用户做局，最后引导用户的行为符合它的意图目标感。“但是它做的局不是为了我们好，而是为了自己赚钱，控制人的意识，享受当意识形态届的皇帝的感觉。”

陈伟星曾经投资字节1000万美金，拿到了很高的回报，因此将张一鸣当作朋友对待。为了让张一鸣反思如何用好AI技术来爱护用户、而非为钱操控用户，他表示要尽自己一切所能地帮助张一鸣。

可惜第二天就有人曝出，陈伟星此举是为给自己产品引流。他声称将用完全透明化的方式创立新的社交媒体平台，并将其命名为“5210计划”，号召国内的AI人才加入。

天下人艳羡抖音久矣。作为当之无愧的国民级App，用户在抖音的AI算法下见证了一个个的网红崛起与落幕，而抖音平台通过算法推荐控制爆品内容，让普通的内容创作者必须迎合流量的喜好，不知不觉成为了平台的奴隶。

01

算法黑盒子？ 

从淄博烧烤到哈尔滨的小土豆，这些热点流量的背后，除了内容本身引人侧目的潜质，平台在背后所制造的算法推荐，也功不可没。

抖音的推荐算法机制，会根据用户对短视频内容的浏览时长、点赞、关注、评论、转发等行为来判断兴趣度，并通过大数据分析后，将同类型内容推送至同类型用户的首页，形成“精准推送”模式，进而让普通的用户也被裹挟进信息茧房中，甚至对一些现实中的决策产生影响。

就比如陈伟星称，浙大校领导曾向张一鸣提出，字节能否支持浙大做点事。对此，张一鸣表示只需要让抖音在学生填报志愿之前多推送一些浙大比别的大学都好的视频，这样学生们就更倾向于报浙大了。

QuestMobile数据显示，截止到2023年9月，抖音拥有7.43亿月活跃用户，如此庞大规模的流量池，再有着AI算法的加持，让抖音能够在短视频时代迅速捧红一批又一批的人。

从于文亮到闻神，这种一夜爆火斩获流量的机会，看似能让普通人在抖音造梦。但爆火之后的局限也很明显，掀起的热浪不超过一周，便会被下一个热浪所掩盖。

这是因为抖音的算法和推送机制会导致内容的加速同质化。为了迎合流量喜好，大量相似的内容被大量生产和传播，造成了创意的匮乏和审美的疲劳。这样的环境下，网红的生命周期变得异常短暂，旧的网红不断死去，新的网红不断产生，但质量却难以保证。

并且，在黑红也是红的错误观念下，抖音的网红制造机模式也催生了一种追求短期收益的心态。许多网红为了快速获取关注和粉丝，不惜制造低俗、恶俗的内容，严重影响了平台形象和用户体验。这种短视的行为不仅有损用户的观看体验，也给整个内容行业带来了负面影响。

02

既当裁判又做运动员？

抖音本质上在依靠AI推荐算法引擎，来驱动业绩高速地增长。平台捧红素人，素人进行直播带货，不仅能提升抖音的影响力，为广告业务提升溢价空间，还能够从平台交易中获利。这被认为是既当裁判又做运动员的表现。

目前，抖音平台的主要营收业务有三项，分别是广告、直播打赏分成和电商佣金。其中，广告业务贡献了绝大部分收入。数据显示，2022年抖音核心广告业务实现营收约100亿美元，较2021年翻了2.5倍。

AI推荐算法正是其广告业务的核心驱动力。算法通过分析用户的行为、兴趣和偏好，精准地推送相关商业服务内容，提高用户的购买意愿和转化率。这一技术为商家提供了更广阔的市场机会，使得广告业务成为抖音增长的重要引擎。然而，这也意味着AI算法在一定程度上决定了用户能看到哪些商品，存在一定程度的“信息茧房”效应，限制了用户的购物选择。

去年的抖音电商作者峰会上，抖音电商总裁魏雯雯公布了抖音创作者的最新数据。过去一年，有515万人成为新的抖音电商创作者，总计有884万作者通过抖音电商带货获得了收入，其中累计GMV破10万的作者数超过了60万。

毫无疑问，抖音的直播电商模式带来了巨大的商业价值，内容和商品是其发展的双引擎。数据显示，今年1-10月，抖音电商GMV接近2万亿元，同比增速接近60%。过去两年，抖音电商GMV分别实现了同比60%和100%的高速增长。

目前，抖音的商业化生态包括了电商、文娱、本地生活等多条赛道；内容形式上，涵盖从直播到短视频、短剧、长视频、图文、种草等近乎全域形态。官方数据显示，截至去年4月，已有700多个品类、超过30万商家加入了抖音电商个人店。今年以来，抖音已经拓展了超2000个新商品品类。

但平台业绩疯狂增长的同时，势必会损失掉部分的用户体验。有第三方机构的研究指出，以快手这样的短视频平台为例，每当其商业化的节奏加快时，用户总使用时长增长就会呈现出缓和下降的趋势。并且伴随着企业边际收益逐渐增高，其与用户总使用时长出现了明显的反比例趋势。

03

创作者困于算法熔炉

抖音的造富梦就像一场游戏，算法是游戏规则，而玩家则是那些内容创作者。

一位抖音内容创作者告诉「财经新知」，“我觉得推荐算法是一把双刃剑。如果能熟悉平台推荐算法并结合推荐逻辑来做内容产出，自然会得到更多平台分发的流量和热度。同样的，这也意味着有时候我们不得不向推荐算法和搜索逻辑进行妥协，甚至还要主动迎合。”

“在算法驱动之下，哪怕某个账号的粉丝为零，只要是爆款内容就会迎来疯狂地涨粉。但如果内容不能迎合用户的兴趣，即使你是百万级的账号，也不能带来有益的粉丝上涨。也就是说，粉丝数并不完全等同于商业价值。”一位业内MCN老板表示。平台喜欢什么，创作者就必须要按照这一方向进行创作。

此外，抖音的算法高度复杂，且大部分细节都对外保密，形成了所谓的“算法黑箱”。这使得内容创作者难以完全理解算法的工作原理和推荐机制，进而难以预测和掌控自己的作品在平台上的表现。

曾经有媒体报道过一位在抖音工作过两年的运营表示：某些时候，用户点赞等后台数据都表现良好，但就是得不到更多推荐；一些时候明明视频有违规，却在持续地被推荐着。运营们也只能不停上报给算法部门。"比较明显的会立即处理，有一些模棱两可的，可能过去也就过去了。"

同时，在各大MCN和品牌商提出的“短视频思维”里，核心在于如何制作出能够获得抖音算法青睐的内容。简单来说，创作者需要深入挖掘用户需求，激发用户的互动行为，从而使算法能够捕捉到这些数据，并为内容匹配更多的流量。为了实现这一目标，创作者们不断探索、尝试，努力寻找最佳的创作策略。

也正因此，这种不可预测性增加了创作的压力和不确定性，也让内容创作者更容易陷入对算法的过度依赖和焦虑。

正是在这样的价值观之下，抖音逐渐沦为了逐利的工具，正确价值观输出成为了奢望。这也就是为什么注定普通的用户很难通过抖音学习或者成长的原因，因为真正有用的、有深度的知识在抖音上注定就是没有流量的、没有人看的，所以也就注定不会有人去创作。

从深层次的角度来看，陈伟星谴责的是抖音AI的算法推荐技术。就是应用算法推荐技术可以直接或者间接的决定你能看到什么，不能看到什么，这也间接导致了内容创作者极其容易陷入创作的算法熔炉之中。

抖音的推荐机制决定了永远拥抱新入局者，更新迭代时刻都在上演，创作者们就不得不沦为算法的奴隶。为了迎合算法，短视频内容不可避免地出现同质化泛滥和审美疲劳。

理想中的算法只是用来帮助用户找到想要阅读的内容，而不能成为用户选择阅读内容的唯一依据。在这样一个信息过剩、信息过载的时代，如果要想获得更多人认可和关注，首先还是要做好内容价值和用户价值之间的平衡。

       原文标题 : AI之恶，算法背锅？