“活跃在巴黎时装秀上的明星们实际上已经开始带货了”、“杨幂和刘亦菲实际上已经销售了减肥茶”，消费者在直播间里感到困惑，但他们多次因“眼见为实”疯狂下单，并在不知情的情况下被骗。

更重要的是，他成为了一名打着“保教包惠”旗号的专业教练。“培训费”从29.9元到高达1万元不等，涵盖工具并承诺为教育套餐提供担保。消费者支付费用后才知道所谓的教育套餐“只卖不售后”。从“AI换脸”到“黑脸田鸡”，当消费者还沉浸在科技对世界的重塑力量中时，一些商家早已构建起一条低成本、暴利的灰色产业链。

“主播”变“明星”骗你，没得商量。

晚上9点点进电商直播间，“杨幂”“刘亦菲”居然卖减肥茶。不久之后，“迪丽热巴”也加入了直播。短短4个小时，依靠“明星同款”“顶流推荐”等标签，直播间商品销量已达数千件。

“追了几天直播，追了一个‘李鬼’，简直欺骗了我的感情和信任。”消费者李翔愤慨地说。

当消费者观看直播购物时，他们会因为对明星的喜爱和信任而购买产品。一些商家抓住了消费者的这一心理，开始借助AI换脸技术诱导消费者消费购物。

北京商报今日记者实际对比了十几个同类型的“明星”直播间，发现正常情况下，只要“明星”在直播间不做过多动作，真的很难辨别真假。

然而，只要直播时间长了，我们就不难发现，如果直播间里的“女明星”稍有动作，就会暴露出“面具”下的本来面目。或者存在“面具”绘画的现象。

眼见不一定为实，消费者如何防范疑似“AI换脸”的画面？行业观察人士陈一凡指出，大面积遮盖面部或在面部前挥手会导致人脸检测失败，因此消费者可以判断相关技术是否得到应用。

“技术”扮演多重实现时的“欺骗”

直播带货是不够的。如今，一些企业开始了更“先进”的业务，他们将自己已经熟悉的“欺骗”视为“技术”输出。

跟随一位科普博主的账号，北京商报记者进入了一个独立的网站，而在这位博主的科普AI技术身份背后，有一条完整的“AI换脸”套餐销售链条。

除了售价29.9元的“AI换脸”教程外，该博主还提供人脸模型定制。整体定制服务从2000元到10000元不等。具体价格取决于质量要求和应用场景。它可以帮助技术“小白”全程完成“ai换脸”的一系列操作，在视频通话、直播等多场景实现“换脸”。

服务于“技术流”的包更简单、更直接。直接通过电商平台搜索“AI换脸模型”无法显示相关结果，但用于训练人脸模型的src（源视频）材料包可以在平台上公开出售。

材料包的价格低至16.8元，最贵的也只有29.8元。北京商报今日记者购买了其中一个素材包，里面大约有4000张图片，大部分是影视剧的截图和相应演员的个人照片。除了明星，商家还提供“大众脸女主播带货”“中年男路人”等物料包。

北京商报今日记者以消费者身份暗访了一位材质包卖家，该卖家告诉记者，“如果你是纯新手，不建议购买，而且你需要有一定的基础才能搭建这样的模型。”在记者的再三追问下，商家表示也有可以直接使用的人脸模型，但需要从平台私下购买。大部分是女性面孔，价格较高，男性面孔较少。

想卖吗？不支持任何退货理由。

这种存在于“技术流”层面的交易并不省心。通过“AI换脸”从事虚拟主播工作的齐琦说:“这种模式使用时间长了，逐渐出现了一些问题，比如操作不稳定、面部参差不齐、表情无法识别等。当时近万元制作的模型被砸，但商家一直联系不上。如果别人找人修改模型，它几乎会重新开始，这又是一笔很大的支出。”

在暗访中，北京商报记者注意到，“换脸”星料包商家的产品详情几乎都在产品介绍中写明:“本店为虚拟产品，下单后自动发货，不支持以任何理由退款或换货。”

专注人脸模型定制服务的问题还有售后。北京商报今日记者以咨询换脸明星进行直播为由，与提供定制人脸模型的商家刘先生取得了联系。对方表示，需要先预付99元作为定金，然后可以进行初步的“换脸尝试”，看看效果后再判断是否需要进一步的需求对接。

当谈到如果最终成品无法达到满意的效果如何进行售后服务时，刘先生守口如瓶，总是回避交付后的维护问题。

消费者赵月告诉今日北京商报记者，当初月卡是为“AI换脸”收费的，结果实际上是花了168元成为终身会员，但现在“AI换脸”功能在毫无征兆的情况下突然从平台上下架了。

这种情况并非独一无二。在黑猫投诉中，以“AI换脸”为关键词进行搜索，出现了近百条投诉，包括“换脸”效果不理想但平台不接受退款等。

有必要加强对损害消费者权益行为的监管

对于“AI换脸”触及的版权、损害消费者权益等问题，商家也提前表态不会背锅。在许多提供人脸模型定制服务的业务介绍中，他们都提到不会接受任何违反道德或法律的相关业务，其业务范围仅限于个人娱乐和合法直播。

根据《民法典》的相关规定，公民享有肖像权，这意味着他人不得随意使用肖像。同样，使用明星的面部图像也可能涉及侵犯明星的肖像权。

北京闻仲律师事务所律师赵虎指出，如果利用“人工智能换脸”技术塑造虚假代言人形象，误导消费者购买商品或服务，这种行为可能构成虚假宣传。同时，人脸作为个人身份识别的重要信息，如果使用不当也可能涉及名誉问题，商家应承担相应的法律责任。此外，在数据泄露的情况下，需要找出原因并确定责任。例如，如果数据泄露是由AI工具本身的缺陷造成的，则AI工具的提供者应承担相应的法律责任。

那么如果购买了假冒明星的产品，消费者是否应该承担连带责任呢？

对于消费者，赵虎进一步指出，消费者在购买商品时需要保持理性，并注意辨别直播间内容的真伪。当消费者基于对直播内容的信任和兴趣进行购买时，他们通常是受害者，而不是责任方。如果消费者因商家虚假宣传或侵权行为遭受损失，有权向商家维权，可以及时向平台或相关部门举报，维护自身权益和市场秩序。

事实上，相关规定早已为“AI换脸”划定了“底线”和“红线”。2023年施行的《互联网信息服务深度融合管理规定》明确规定，任何组织和个人不得利用深度融合服务制作、复制、发布、传播法律、行政法规禁止的信息，深度融合服务提供者应当以显著方式提醒深度融合服务的技术支持者和用户承担信息安全义务。

业内相关人士也向北京商报记者表示，现阶段，虽然不少平台已明确要求商家在使用“AI换脸”技术时标明身份，以确保AI合成视频的发布者身份清晰可辨，但在利益驱动下，仍有商家试图通过模糊身份逃避责任或误导消费者。

陈一凡指出，新质量生产力以其颠覆性和原创性的特点，确实为传统生产模式注入了新活力，为经济社会发展提供了新动能，催生了许多新产业，成为推动社会进步的重要力量。新技术的应用往往会带来市场的变化，但如果被滥用，则可能导致市场信号失真和资源配置不合理。

北京今日商业沸点调查团队

（责任编辑：张晓波 ）