作者 | 陈骏达

编辑 | 心缘

智东西12月27日报道，近日，一则国家传染病医学中心主任张文宏医生“带货”的消息冲上社交平台热搜。在这场深夜直播中，“张文宏”推销的“白芸豆威化蛋白棒”产品，销量已过千。

▲央视对张文宏医生“被AI带货”的报道（图源：CCTV2）

不过这个“张文宏”并不是真正的张文宏，而是AI换脸假冒的。被合成人像的样貌、声音都与张文宏本人极为相似，尽管存在口型不符等细节瑕疵，仍令不少老年人信以为真、上当下单。

此事令张文宏医生不堪其扰，向媒体透露自己多次投诉无效：“这些假的合成信息就像蝗灾一样，一次又一次发生……从平台投诉结果来看，我觉得最终也难以解决问题。”

AI冒充名人并非个例。仅是在最近三个月，就有网友用“雷军AI语音包”做出以假乱真的雷军爆粗口视频，还有一位65岁江西老太太差点被“AI靳东”骗走200万元，令AI数字人隐患愈发显现。

这还仅仅是“AI骗子”泛滥于短视频平台的一隅。智东西在陆续了解、接触多位数字人营销账号的运营者和多家数字人服务提供商后发现，多样的AI骗术已充斥于各大内容平台，从摆在明面上的AI数字人到背后卖课、卖设备、引流乃至传销。

大量低质量数字人内容已攻占各大视频平台，由AI生成的虚假军人、虚假成功人士、虚假女性正以“娘”、“亲爱的母亲”、“老公”等亲昵的口吻与观众对话，诱骗大量不知情的中老年用户进行互动，甚至将他们带至私域进行诈骗。

▲各大内容平台上的AI数字人

部分数字人厂商、代理商以“躺着赚钱”、“一部手机就能干”等夸张话术吸引商家购买数字人系统，却在实际交付过程中提供了货不对板的产品，伪造与抖音等平台的合作关系，最终导致商家账户被封号、罚款，数字人买卖双方对铺公堂。

▲相关案件的判决书（图源：裁判文书网）

更有甚者，以数字人带货为噱头兜售4000元一台的设备，让购买的店主拉下线、升等级、拿佣金，或是让学员提交高额学费进入所谓交流群，但却谎称AI生成的图片、音频就是数字人技术。这些行为几乎与传销、诈骗无异。

▲疑似骗局的数字人营销宣传

众多中小商家眼中的数字人风口，正成为某些人借信息差，狠狠收割流量与金钱的镰刀······

01 .

四大数字人乱象：虚假宣传、谣言泛滥、直播引流、诈骗传销

“一二三，三二一，一二三四五六七。”

短视频平台上，有不少推销数字人技术的视频都以此为开头。发布者介绍，仅需简单念一串数字，再做几个动作，将视频传给AI，等上几分钟，就能生成与真人在外貌、声音方面都近乎一模一样的数字人。

▲国内主流短视频平台上的数字人宣传视频（图源：智东西自制，从左至右分别为视频号、快手、抖音）

“一部手机就能干”、“躺着赚钱”、“在家赚米”、“宝妈可干”是这些视频中的惯用话术，在发布者的视频、朋友圈中，动不动就是每天佣金700+、3个月赚了14万、一天400多单等令人难以置信的成绩。

发布这些视频的账号主要通过展示、夸大数字人效果吸引中小商家直接购买数字人，在直播带货、短视频带货等场景中应用。还有账号直接生产数字人内容，并从中牟利。

短视频平台上已有大量通过数字人生产的低俗、侵权、反智、封建迷信、造谣传谣的内容。这些内容制作手段极为低劣，通常瞄准的都是没有辨识能力的中老年人，骗取大量流量，诱骗用户进行互动。

▲抖音上由AI生成的内容获得大量互动

有不少名人的肖像、声音被AI冒用。前段时间，“AI雷军”被用于恶搞视频、“AI靳东”被用于诈骗的消息都曾冲上热搜。雷军本人回应自己“非常非常的困扰”，靳东也在网络上呼吁平台需要拿出更有效的措施和办法，治理相关内容。

▲由AI生成的“靳东”、“雷军”

抖音官方发现，有部分账号会将用户导流至私人聊天工具，外以卖课、入群等方式获利，甚至进行诈骗。抖音在治理公告中提到：“平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。”

抖音平台称，AI生成的虚假小和尚形象会对用户说出“我发现你身边有块绊脚石，我打算给你搬走”，“如果觉得小和尚说得对，送给小和尚一朵小红花吧”等话语，利用迷信、心灵鸡汤等内容骗取互动。

AI生成的虚假军人形象会以“娘，别滑走，孩子想和您谈谈心”，“亲爱的母亲，我正在执行任务，给我一点鼓励”，“告诉你一个小秘密，点一下我头像下面的小加号”等口吻，利用军人正面形象及老年人想念子女心理骗取互动。

AI生成的虚假女性形象会以“大叔，感谢你又来看妹妹了，如果再送我一朵花我会感动一整天”，“听说你很厉害，很多美女都喜欢你”，“我会做饭、做家务、能聊天，你愿意把我带回家吗”等情感话术诱导骗取互动。

▲抖音平台上的部分违规AI生成内容（图源：抖音黑板报）

除了欺骗普通用户之外，还有企业和个人打着数字人的名头招摇撞骗，盯上了投资者和商家，进行欺诈、甚至疑似传销的行为。

智东西近期以潜在店家的身份接触了多位数字人视频、直播的推广者。

据推广人员的介绍，这家名为Toktime（又名TK Time）的公司是亚马逊全资子公司，但互联网上未能查询到佐证对这一关系的信息。Toktime以4000元一台的价格将数字人直播带货设备租赁给店家，后者可以拿到分佣。这些设备并不会直接送至购买者手中，而是由公司进行统一管理。

▲智东西获取的Toktime APP页面截图

该公司对外发布的培训资料显示，在购买设备后，店主需要等待一段时间才可从平台提现，还需要通过不断拉新人提升自己的级别，从而获得更多购买设备的权限和提成。这几乎集齐了经典骗局的所有要素。

▲智东西获取的Toktime宣传资料

更令人生疑的是，对方提供的TikTok带货账号连正式的名称都没有，账号粉丝数量和视频观看量寥寥无几。

▲智东西获取的Toktime公司TikTok带货账号截图

经查询，Toktime除了在英国公司注册局（Company House）提交了无需审核的公司地址，从而获取营业执照外，就没有任何其它的相关信息。已有大量受骗者在社交媒体反映Toktime公司的各种问题，如无法提现、承诺可退回的资金无法退回等。

上述团伙至少还制作了App、网站，并在全国各地开展线下培训，下方这个账号更为直接，用一张AI生成图片便号称是所谓“数字人短视频带货”。实际上，这些视频仅以AI图片为封面，内容则为切片、搬运而来。

▲某所谓数字人带货账号（图源：快手）

要学习上述视频的制作方式，“学员”需要付款1299元进入。在智东西进一步询问后，对方直接承认视频就是混剪，数字人主要体现在“声音”。针对视频搬运问题，对方回应“干啥都有风险”。

▲智东西与对方的聊天记录

后续，对方又辩称可以提供数字人出镜的视频。但这一数字人的画面僵硬，口型完全对不上，AI生成的语音也有很强的“塑料感”。

▲对方提供的所谓数字人带货视频

02 .

视频号、抖音、快手严打数字人，

相关诉讼量已近50起

面对泛滥的低质量数字人内容，国内主流视频平台纷纷进行了规范和限制。

电商直播是数字人应用较多、消费者感知较为明显的领域，也是平台治理的重点对象。据艾媒咨询在2023年9月对500家数字人行业客户的调研，选购数字人产品的企业中，电子商务企业占比达22.7%。

▲中国AI数字人行业客户画像分析（图源：艾媒咨询）

腾讯视频号最为严格，在今年修订的《视频号橱窗达人“发布低质量内容”实施细则》中将使用AI数字人进行直播的行为明确界定为违规。

▲《视频号橱窗达人“发布低质量内容”实施细则》节选（图源：腾讯视频号公告）

国内两大短视频巨头虽然都推出了自己的数字人平台，但也对站内AI生成内容（以数字人为主）进行了较为严格的限制。

抖音2023年、2024年多次发文倡议商家不要使用完全由AI驱动的数字人主播，并陆续进行了多次大规模整治，封禁了一大批相关账号。

快手则在今年6月取消了对自己旗下“女娲”数字人产品的流量倾斜，同时加强了对AI生成内容的监管。

淘宝、京东等电商平台和美团等本地生活平台则对数字人直播较为宽容，这可能是因为平台上的大部分中小商家根本没有自主进行真人直播的能力，而数字人至少可以帮助他们打入直播带货这一赛道。

智东西查询到的公开信息显示，目前市场上的数字人产品定价从数千元到数万元、数十万元不等。高质量的数字人产品并不缺乏，直播场景中的高质量数字人产品口型对齐效果、画面逼真程度都比较理想，还支持本地化部署。供应商会对商家进行数字人直播运营的培训。

但较高的售价和技术门槛，让不少中小商家转而选择了一些廉价的数字人服务商，但最终这些服务商的产品往往出现货不对板的问题。

目前，裁判文书网上已公开了近50起数字人相关的法律纠纷，其中有39起与数字人直播相关，大部分都出现在2023年-2024年期间。这些案件的涉案金额大多在10万元以下，但对中小商家来说也是一笔较大的开支。

▲裁判文书网已有不少数字人直播相关案件（图源：中国裁判文书网）

据智东西观察，这些数字人服务商往往以相对较低的价格、无人直播、与真人效果无差异、24小时卖货等为噱头，将数字人产品出售给对技术细节不了解的商家。

例如，在去年宣判的一起案件中，广州氧望科技公司在发布会中展示的数字人效果与实际交付产品相去甚远，后者表情、动作僵硬，远远不能达到直播的效果。氧望公司还宣称他们与抖音官方有紧密的合作关系，可让抖音提供提供引流服务。

▲氧望科技曾拿到数千万元融资，但目前其电话已经无法拨通（图源：企查查）

原告吕先生为氧望公司提供的智能系统支付了60000元，但进行直播时，直播间频频被抖音官方频频封号，连正常直播都无法完成，更何况引流。

在今年宣判的一起案件中，深圳某科技公司在与商户签订38000元的合同后，交付的“数字生活直播系统”屡次因录播、AI主播形象容易引起公众混淆为由被平台封禁。在商户反映问题后，舌诊某科技公司以“数字人形象过于大众化”、“我们还在做新的形象”、“前期需要先养号”等话术搪塞商户。

这些案件中，商户方的诉求基本都得到了法院的支持，上述数字人服务商明显构成了虚假宣传、合同违约等行为，需要退还一部分或全部涉案资金。

03 .

头部创企盈利困难， 平台政策逐渐收紧

“数字人”概念兴起于元宇宙的热潮，其实是中国科技发展环境下产生的特定表述。据中国互联网协会发布的《中国数字人发展报告（2024）》，数字人这一概念下包含了媒介数字人、服务数字人、行业数字人这三大类别。

除了最有感知度的直播带货、短视频之外，数字人还出现在虚拟偶像、智慧客服等场景中。数字人的应用也不再局限于大型企业，而是开始向中小商家乃至普通创作者下沉。

▲中国数字人应用场景荟萃（图源：中国互联网协会）

根据《中国数字人发展报告（2024）》中的数据，中国数字人产业2023年核心市场整体规模为205.2亿元，预计到2025年会达到480.6亿元。

然而，数字人产业的规模不及预期。作为国内最早扶持数字人产业的城市，北京市在2022年提出了2025年“北京市数字人产业规模突破500亿元”的目标，还要培育1-2家营收50亿元以上的头部数字人企业与10家营收超10亿元的重点数字人企业。

▲《北京市促进数字人产业创新发展行动计划（2022-2025年）》（来源：北京市人民政府官网）

今年2月，北京市数字人基地正式启用，会上相关部门分享，目前北京市以数字人为核心业务的企业217家，总营收规模约51亿元。北京市经信局预计，2025年数字人核心业务营收规模突破200亿元，低于2022年时500亿元的预期。

国内数字人行业的主要玩家依旧是大厂和头部AI企业，如百度的曦灵数字人、商汤的如影、华为云的MetaStudio等。百度、阿里、腾讯、华为、商汤、科大讯飞等企业的数字人平台都在今年迎来升级。

咨询公司IDC在今年针对16家数字人供应商进行研究，国内数字人产品的8家领导者企业中，仅有脱胎于微软亚洲研究院的小冰是以数字人为主营业务的中小企业。

▲《中国AI数字人产品2024年厂商评估》节选（图源：IDC）

上述16家企业中，以数字人开发为主要业务的企业日子过得并不好。作为被IDC在数字人能力维度排名第一的企业，小冰至今仍未实现盈利，企查查数据显示，2022年-2023年，小冰的员工数量也有明显下滑，参保人数从290人降至161人。

而有“港股AIGC第一股”之称的出门问问在今年4月上市后股价就持续震荡下跌，2024年半年报中公司披露亏损6.34亿元，截至今年年底出门问问的股价已经持续2个月低于1港元，市值相较发行时已跌去近8成。

▲出门问问港股股价变动（图源：腾讯自选股）

2017年成立于南京的硅基智能则是这条赛道中少数对外宣布已经实现盈利的企业。其创始人司马华鹏去年透露，在2019年底时他们就已经达到了盈利状态，并希望冲击成为第一家年收入达到百亿的AI公司。

数字人的创业热潮也出现降温态势。据创投数据库IT橘子数据，2021年国内共有40家数字人企业成立，到2024年这一数据已降至5家。数字人相关的融资降温，2024年，仅有少数几家数字人企业拿到了新融资，如向量方程、白马星球、风平智能、VidAU等，也没有企业披露超过亿元的融资。

▲数字人企业成立时间分布（图源：IT橘子）

04 .

结语：数字人野蛮生长，

监管亟需跟进

目前，全国范围内尚未有数字人相关的通用规范性文件。今年9月，浙江省出台了《浙江省网络直播营销行为规范指引》，对AI深度伪造、数字人使用做出相关规定，这也是全国首份此类文件。

在AI技术不断往纵深发展的当下，数字人技术的运用或许亟待监管部门的统一规范。