抖音对AIGC亮明牌！AI虚拟人带货或将面临最大危机...

作者：小岩

编辑：彩云

12月19日，抖音官方发布了一则重要公告，宣布将严厉打击包括AIGC在内的6种新型违规行为。所谓AIGC，指的就是当下发展势头正劲的生成式人工智能。之所以要打击AIGC，其实是为了重点打击新型养号行为。

抖音志在打击黑灰产，而AIGC造假成了绕不过去的“路障”。

事实上，抖音此次重拳出击的主要目的是打击黑灰产业违规“涨粉养号”的行为。因为抖音在日常巡查中发现，很多黑灰产组织正视图通过AIGC造假，盗取他人直播内容并加以剪辑，以官方名义公布培训课程等方式，批量发布低质量的违法违规内容，并试图以此达到快速涨粉，养号的目的。

其中，利用AIGC技术创建虚拟人物，使其冒充真人进行直播便是其中最典型，最常见的一个。如果你有刷短视频的习惯，就一定曾刷到过虚拟人在直播或是在说话的内容。他们或是仿照真人主播一样进行虚拟带货，或是在那里大谈特谈情感鸡汤，知识科普，理财致富等方面的内容。

相较于真人主播实打实的进行直播带货或者发布内容，用虚拟人来完成这些工作就显得轻松许多。试想一下，真人主播很难进行时长为8-10小时的直播，这个工作强度高负荷到难以想象，但虚拟人不存在无法适应高强度工作的问题。即便不进行流量投放，单靠拉长直播时长这一点，也足以完成养号涨粉，为粉丝进行人群画像，从而获得更精准的新客的目的。即便虚拟人的直播实绩没有真人理想，即便虚拟人的直播间只有几十人或十几人，也依然不乏支付订单和评论区留言的出现。

抖音曾出手堵AIGC的漏洞：显著标识，后果自负。

事实上，这并非抖音第一次对AIGC提出规范和要求。

早在今年5月9日，抖音官方曾发布消息，首次对AIGC提出平台规范和行业倡议。敲重点来说，其中有两方面的内容很关键，也格外引发关注。一是对AIGC内容的标注，二是虚拟人的注册认证。

先来说说对AIGC的标注，简单来说就是要“贴水印”。

抖音在相关规范里明确表示，包括AI写作，AI文字编辑，AI语音合成在内的，有可能造成混淆的深度合成服务，都要明确的打上水印，做出标注。不管你使用的是今年大火的ChatGPT，Midjourney，国内的文心一格，文心一言等文字和图片生成产品，还是魔音工坊等语音生成类产品，都在“做标注”的范畴里。对于标识方法，简单来说，就是要在各类图片和视频文件的“左上角”打上“AI生成”的字样，以及使用的生成工具的名称与公司名水印。

对于抖音要求的“贴水印”，多数服务商的反应较为乐观，普遍觉得加上水印不会影响内容的传播，反而能达到以正视听，确保真实性的目的。很多人认为“这是非常正确的决定”，也必将会在未来“成为常态”。

相比于AIGC内容的标识，虚拟人的情况就复杂了许多。

彼时，抖音在公告中明确提出，支持虚拟人发展，但虚拟人需要认证，并且禁止完全无人的AI直播。根据用途，抖音上的虚拟人可为两类，一类是“娱乐型”的虚拟主播；一类则是功能型的虚拟人，最直观的就是那些需要完成直播带货目标的虚拟人。

不过，对于虚拟人直播带货的行为，用户们并不算太买账。观看直播的用户们会觉得与真人主播相比，虚拟人的直播内容质量较差，语言木讷，毫无新意可言。对于广大商家来说，利用虚拟人带货也并非上上签的选择，虚拟人不仅很难完成KPI，实现创收，还容易被平台判处违规。

事情的发展的确如此。时隔半年之后，抖音官方提高了门槛和要求，直接提出了“禁止AIGC造假”的要求，向AIGC亮出来了明牌。算是进一步明确了抖音官方的立场和属性。

抖音率先雷霆出击，或许会成为行业的风向标。

ChatGPT打开了人工智能的新大门，让我们见识到了人工智能的强大，与此同时，相应的潘多拉魔盒随之开启。

随着技术的不断成熟，AIGC逐步从概念阶段走向实际落地阶段，争议和风险也就应运而生。一段时间以来，关于人工智能生成内容以假乱真，数据泄露以及侵权的案例频频出现，也就进一步放大了人工智能可能社会造成的危险。

如今的AIGC在短视频赛道被广泛应用，创作者，主播，用户，商家，广告主等平台生态参与者无一例外，都会涉及到AIGC。这也是抖音率先出击，出台相应的行业规范的重要原因。

监管和创新技术，创新模式之间永远存在着“跟”和“被跟”的关系。一定会先有技术，然后产生风险，继而产生规范的必要。有了监管，行业的发展会朝着更有利的方向发展。

当然，规范的出台并不意味着一劳永逸。在执行监管的过程中，我们仍然会遇到实际上的问题。譬如该如何进行具体的责任界定？该如何进行取证？但无论如何，对于人工智能的监管已经提上日程了，这是十分值得欣慰的。

       原文标题 : 新火种AI|抖音对AIGC亮明牌！AI虚拟人带货或将面临最大危机...