“全红婵带货蜂蜜”，这些短视频是怎么发出来的？

文 | 胡炜（新京报传媒研究院） 全红婵作为当下世界顶尖的跳水运动员，一次又一次为国争光，再加上其鲜明个性，受到公众喜爱，在社交平台人气颇高，有些人就动起了歪脑筋。 近日，名为“婵宝小助理”“全妹福利号”等多个账号，通过AI伪造全红婵及家人的声音和形象，生成虚假 视频内容， 在社交平台发布并 带货 。 4月29日，全红婵父亲无奈发声，那些带货蜂蜜的视频全是AI伪造的，他们一家人根本没有参与过。“ 帮我辟谣一下，我没有卖这东西，什么蜂蜜才十几块钱一斤，拿糖来搞都搞不到。 ” 一句简单的话语，道出了 满满的 无奈与愤怒。 01 短视频新玩法之祸 近年来， 随着AI技术的发展， 换脸拟声已成为简单易操作的“低门槛”技术，只需拥有声音与照片等“素材”，借助软件即可瞬间实现“AI克隆” 。 在短视频 平台， 存在 大量 运用AI换脸技术创作的短视频，不仅满足了用户的娱乐需求，也为创作者带来了大量的流量和关注，成为了短视频创作的一种“新玩法”。 但是慢慢地这种技术被一些不法分子盯上，成为了他们制造虚假内容、骗取利益的工具。他们利用AI换脸技术，将公众人物的脸合成到带货视频中，借助公众人物的知名度和影响力，诱导消费者购买产品，从而谋取利益。“全红婵带货蜂蜜”的视频，就是这种恶劣行为的典型代表。 不仅是全红婵，靳东、刘晓庆、雷军等众多公众人物也都遭遇过类似的AI造假， 成为受害者 。刘晓庆曾惊讶地发现微信视频号里有许多 AI 生成的视频在假冒她，张馨予则发文怒斥有商家利用AI技术复制其声音售卖减肥药。

▲ 网络截屏

“红婵带货蜂蜜”这类虚假视频的出现，带来的危害是多方面的，从个人权益到市场秩序，再到网络生态，无一幸免。 对于公众人物而言，这严重侵犯了他们的肖像权、名誉权和隐私权，同时也面临着形象受损的风险，他们的声誉可能在一夜之间因为这些虚假视频而受到严重打击。 虚假带货视频还对消费者的行为造成严重误导，损害了消费者的合法权益。许多消费者是出于对全红婵等公众人物的喜爱和信任才购买产品的，但他们收到的产品往往与视频宣传不符，质量参差不齐，甚至可能存在安全隐患，严重影响了消费者的购物体验和对市场的信心。 从整个网络平台和市场生态来说，虚假带货视频破坏了公平竞争的市场秩序，扰乱了网络平台的正常运营。这些不法分子通过不正当手段获取流量和利益，挤压了正规商家和创作者的生存空间，导致市场劣币驱逐良币。同时，大量虚假视频的存在，也降低了平台的内容质量和用户体验，让用户对平台产生不满，影响平台的长期发展。

02

平台责无旁贷

平台作为流量经济的重要一环，不仅仅是传播渠道，也是受益者，更肩负着审核监管的义务。 河南泽槿律师事务所主任付建在接受媒体采访时表示，“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务，对违法商家采取封禁账号、限流等处理措施。 如果未及时采取合理措施导致损害扩大的，对扩大部分与不法商家承担连带责任。 ” 面对AI虚假带货视频的泛滥，平台需要积极探索应对之策，力求从源头上遏制这种不良现象的蔓延，否则，将会失去用户的信任，最终影响整个平台经济的健康发展。 平台当务之急是提升技术手段，进一步加强对内容的审核力度，确保每一个违规视频都不能逃过监管。 可尝试通过升级其智能审核系统，利用更先进的AI图像识别和语音识别技术，对上传的视频进行全方位扫描，一旦检测到视频中存在AI换脸、虚假宣传等违规行为，立即进行拦截和处理，用“魔法打败魔法”。 此外，平台还可以建立用户举报机制，鼓励用户积极参与监督，对于举报属实的用户给予一定的奖励，形成全民参与的监督氛围。比如，当用户发现某个全红婵带货蜂蜜的视频存在异常时，可以点击举报按钮，协助平台加强对虚假违规视频的发现和处理。 03

全方位治理

面对网络上虚假带货视频的泛滥，社会各界需要联动起来，积极探索应对之策。 今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，全国政协委员靳东更是建议AI换脸立法。 中央网信办也重拳出击，自4月15日开启为期3个月的“清朗·整治短视频领域恶意营销乱象”专项行动，重点聚焦的问题之一就有涉及“利用‘换脸’‘换声’‘P图’等手段编造不实内容”问题。

“全红婵带货蜂蜜”事件既是技术滥用的警示录，更是重建数字伦理的动员令。当AI能完美复刻奥运冠军的每个微笑和褶皱，当亲情和爱重成为流量游戏的筹码，我们不得不重新审视数字时代对“真实”的定义。在这场“真实保卫战”中，守护的不仅是明星肖像权，更是我们每一个人在数字文明中安身立命的根本。

校对 | 李立军

主编推荐