AI营销陷阱算法杀熟怎么破　专家献策

原标题：打造“完美主播”、暗设消费陷阱，AI营销边界在哪

你在网络直播间看到的正在带货的名人明星是真人吗？未必。近期，小米集团创始人雷军建议加强“AI换脸拟声”违法侵权重灾区治理，再次引发公众对AI数字人使用的讨论。

去年以来，AI生成的数字人大量“占领”电商平台，有的靠“图”预售、以次充好，还有的用AI数字人仿冒名人外貌及声音为一些“神药”“神器”背书，短时间内卖出巨额大单。在这背后，一套从肖像、配音，到文案生成的AI数字人带货制作流程充斥网络，带来众多监管难题。

专家表示，利用AI数字场景直播带货是电商发展的新趋势，但在发展前期，一些不法商家利用监管漏洞侵害了消费者权益，建议尽快完善法律法规，强化平台责任，设定AI数字场景使用边界，防止AI“赋能”变AI“负能”。

一场“眼见是否为实”的暗战

兰州市民崔女士近日在网络直播间购买了一件春季薄款毛衫。商品页面中模特展示这款毛衫的面料细腻柔软，穿在身上得体优雅，她感觉自己的身材也像模特一样属于偏瘦类型，于是下单。而收到实物后却发现，这件毛衫材质既不细腻也不柔软，裁剪还很粗糙，她深感上当受骗。

经过与售后一番费尽周折的交流，崔女士得知，该模特其实是AI生成的“数字人”，面料的视觉效果都经过了AI技术的“渲染”。

甘肃慧联信息科技发展有限责任公司总经理王雪莲已有十多年电商从业经历。她告诉记者，雇用模特试穿拍照是服装电商行业的传统做法，但AI数字模特的迷惑性在于它可以通过参数设置，生成“九头身”“马甲线”理想化身材，并借助AI渲染技术消除衣服褶皱、增强光泽感和飘逸灵动感，使廉价的面料呈现出昂贵质感，让消费者误判服装的实际效果。

崔女士的购物经历并非个例。记者调查发现，在直播带货领域，AI数字人通过仿真的面部形象、声音和精心的场景布置，其迷惑性让消费者防不胜防。

更有甚者，有商家将名人明星换脸为数字人“平替”。去年以来，“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间，更有不法商家生成“AI张文宏”，“严肃认真地在直播间卖蛋白棒”，从开播到被举报关停，短时间内卖出了1200多单商品。

除了借用名人效应外，一些商家用AI技术打造数字人人设，如“成功女企业家”“单亲妈妈”“带娃宝妈”“知性美女”“美妆达人”等，利用特定人群的同理心直播带货。而在保健品、药品、化妆品、医疗辅助器械“三品一械”领域，精心打造的数字人面向老年人、学生等辨别能力弱的群体，大肆夸大产品功效，快速敛财。

AI数字营销监管“网眼大”

针对AI数字人仿冒名人直播带货、AI换脸诈骗等违法行为，国家网信办已出台《人工智能生成合成内容标识办法（征求意见稿）》，并开展网络清朗行动等专项行动约束管理。

然而，对于正处在发展初期的AI数字营销，一些专家表示，从法治层面到平台监管，还存在诸多漏洞。

记者在某平台上输入“AI数字人直播教学”等关键词，搜索出成千上万个教程，学费从几十元到数百元不等，还有的甚至免费。

记者联系一位收费教程博主，其称“三分钟教会搭建AI数字人直播间”，并承诺“一天可以做近百个数字作品，都能通过原创审核”。

兰州大学信息科学与工程学院副教授刘忻表示，AI技术发展迅速且具有技术门槛低、隐蔽性强、更新迭代快的特点，随着开源工具的普及，普通人仅需少量数据即可生成逼真的仿冒内容，而且传播速度快、范围广。当前，从数据采集、AI模型训练到虚假账号运营，已形成分工明确的产业链。

甘肃政法大学民商经济法学院副教授盛玉华表示，利用AI仿冒他人形象直播带货或从事其他违法经营行为，违反了广告法、个人信息保护法等多部法律法规，但面对AI数字人营销骗局，当前最大的难点不是“无法可依”，而是“有法难依”。

盛玉华说，AI数字人虚假营销涉及技术提供方、内容生成者、直播平台、商家等多方，现有法律未明确各方责任划分，导致在实际执法过程中难以准确适用法律。

针对AI数字人误导消费者风险，2024年某平台优化了对AI主播的识别能力，累计处理超17万个录播直播间，封闭3万多个账号，打击2800多个黑商团伙。但从平台管理来看，仍存盲区，审核机制还有待完善。

兰州大学管理学院副教授王洪鹏说，此前该平台通过博主的粉丝量来设计带货门槛，随后这一规定被取消，直播带货门槛降低，也为AI数字人虚假营销提供了可乘之机。

多方发力加强引导　促AI数字营销健康发展

在王雪莲、盛玉华等业内人士和受访专家看来，从长远来看，AI数字营销将会革新传统的电商销售模式，赋能消费领域和销售环节，给市场带来更多更好的体验。

事实上，目前AI数字人已在多个领域提升电商销售发展水平。在服装电商行业，AI数字技术正通过数据挖掘、视觉算法和个性化推荐，提升关联销售水平，如有的平台推出AI搭配和AI试衣间，用户在平台内创建虚拟形象后，AI就会帮助顾客生成多种穿搭方案，直接链接到关联商品，大幅提升商品关联销售额。

而当前出现的各类AI数字人虚假营销，是AI赋能网络直播销售发展初期，监管机制不完善的阶段性产物。“当务之急是要从法律层面补齐监管漏洞。”盛玉华说，首先要明确AI生成内容的法律性质和责任归属，厘清技术提供方、内容提供者、平台、商家等多方主体的责任边界，提高法律可操作性。

业内人士建议，在刑法、网络安全法等法律框架下，对利用AI技术编造传播虚假信息，实施诈骗、诽谤、侵害肖像权等行为，细化法律适用规则，加大惩处力度。

同时，要持续强化平台责任，健全内容审核机制。例如利用技术手段，对直播和商品信息进行监测，及时发现和处理AI虚假营销行为。可通过在AI直播间标注类似“AI直播注意鉴别”等字样，把知情权、选择权交给消费者。

王雪莲等认为，对于AI数字赋能网络销售这一新事物，相关部门要加强对消费者的AI素养宣传教育，提升其认知能力，并不断完善在AI数字人大规模发展背景下消费者投诉举报机制，降低维权成本，让消费者从“技术弱势方”转变为“监督主力军”，打破“维权难、违法易”的恶性循环。

（本报记者　姜伟超　王铭禹　马莎）

相关新闻：算法沦为算计，消费者如何反“杀熟”

“付费会员价格比普通用户高”“新人一天三四个红包，消费数万元的老客户三四天拿不到一个红包”“同一套餐不同价，老客户被用力‘宰’”……新华每日电讯记者在某投诉平台搜索发现，有近1.8万条投诉中包含“杀熟”关键词，有的年轻人也想通过“哭穷”的方式“驯化”算法。

近期，算法不透明和大数据“杀熟”再次引起关注。对于平台经济发展，市场监管部门也明确表态，要督促平台企业提高算法透明度，优化算法规则。

算法如同“读心术”，用好了能为消费者和商家精准提供个性化服务，让买卖双方享受到技术红利，但若“心术”不正，算法便会沦为算计，成为网络生态的破坏者。业内专家建议，要更加完善算法监管体系，避免本应享受“算法红利”的消费者掉入“算计陷阱”。

“算法杀熟”套路屡见不鲜

近期，随着机票预订高峰的来临，“骂机票贵”再次翻热，矛头指向大数据“杀熟”。

记者在网络平台搜索发现，一些“骂机票专用贴”热度攀升，相关话题讨论量高达70万次，参与者覆盖多个城市，以“哭穷”的方式倒逼机票降价。

在一些“反复评论骂机票，两天骤降五六百”“哭穷砍价套路话术”等分享攻略的评论区，有网友跟帖评论基本都有针对性地点出航空公司和订票平台名称精准“开骂”。有网友晒出“战果”：从北京飞济州岛，骂之前870元，骂之后369元，并将成功经验分享。

“订酒店用不同品牌手机搜出差价上百元的房价”“放在购物车里的商品多点几次就会涨价”……新老用户被“差别对待”、红包发放“看人下菜”、同一商品百人千价。

记者梳理发现，近年来，先低价吸引客户，等生客变熟之后，再利用大数据算法变相抬高价格的“杀熟”套路在酒店订房、外卖团购、出行订票等网购平台屡见不鲜。随着技术不断迭代，消费者反映大数据“杀熟”也变得更加“先进”。

上海计算机软件技术开发中心主任、研究员蔡立志表示，前两年大数据“杀熟”行为有当时的算法技术不成熟的可能，而从去年开始，国内生成式人工智能大模型不断涌现，在数据的汇聚能力和理解推理能力上明显更强。

“懂你”的算法缘何沦为“坑你”的算计

“‘大数据杀熟’频现”成为中消协公布的2024年上半年十大消费维权舆情热点之一。四川省消委会去年下半年发布的《网络消费者知情权保护调查报告》也显示，在经历过网购商品和服务的消费者中，39.64%的受访者遇到过“大数据杀熟”的情况。

甘肃慧联信息科技发展有限责任公司总经理王雪莲介绍，对商家来说，客户信息是最有含金量的销售参考，而算法能帮助商家精准获取最直接全面的客户数据，其为消费者打上的标签能够为商品精确、高效地找到潜在客户群体提供便利，提升成功交易的订单数与访客数。

兰州大学信息科学与工程学院副教授刘忻分析，大数据“杀熟”的本质在于运用算法针对消费者购买习惯、经济实力进行精准画像，精准地为用户“贴标签”。

“在实际操作中，一些平台和商家确实存在为了销量而利用算法‘算计’消费者的情况，通过用户年龄、职业、消费水平等特征，对相同商品实施差异化定价。”王雪莲表示，这样的行为虽然短期来看利于盈利，但不利于长远发展，久而久之会让用户产生信任危机，破坏网购生态。

受访专家表示，如果“哭穷”反“杀熟”成立，说明算法对评论有效信息进行了抓取，但应对大数据“杀熟”，不能仅靠消费者“哭穷”。

“一时‘哭穷’成功不意味着一直都会成功，要看到其背后对规范算法的迫切需求。”刘忻说，“哭穷”砍价并非治本之策，甚至有可能还会让大数据在掌握更多个人信息后进一步完善“杀熟”机制。

甘肃政法大学民商经济法学院副教授盛玉华坦言，大数据“杀熟”问题屡禁难止，一方面在于消费者举证难、维权成本高，很难有力维护自身合法权益；更重要的是算法大模型备案尚在“成长期”，缺乏成熟规则指引，在责任主体上未对“服务提供者”等概念进行明确划分，不足以应对实践中的复杂角色定位，造成监管难、问责难。

多措并举破解算法“数缚”

业内人士和法律专家认为，人工智能隐藏的消费陷阱，有些恶意行为属于价格歧视，违反市场交易的公平原则，严重的已经涉嫌大数据欺诈。如何在促进大数据赋能市场发展的同时，更好完善人工智能算法治理体系，提升监管手段和能力，对大数据产业的发展和消费者权益保护都很重要。

目前，有关法律法规已对大数据杀熟问题作出规范。2024年11月，中央网信办等四部门联合发布通知，开展“清朗·网络平台算法典型问题治理”专项行动，提出严禁利用算法实施大数据“杀熟”，各地陆续开展相关算法治理专项行动。

前不久，市场监管部门明确提出，要对大数据“杀熟”加强综合治理，提高算法透明度，优化算法规则，保障消费者合法权益。

刘忻表示，算法作为一种工具，其使用方向决定善恶，作为一系列代码的集合，它在某些领域属于核心资产，查看算法模型对执法者来说需要一定门槛，这是目前规范算法的薄弱环节之一。从技术角度看，需尽快完善大数据算法模型制定依据和检测办法；从管理角度看，需加强监管机制，明晰市场准入制度，让大数据走出技术“暗房”。

2023年，上海计算机软件技术开发中心筹建生成式人工智能质检中心，2024年验收通过，专门研究、控制和解决生成式人工智能带来的潜在风险。受访专家建议，未来亟需进一步加快推广设立第三方检测机构，对应用程序中的人工智能大模型开展安全性检测。

受访专家建议，要持续完善平台算法规则的解释机制，同时探索个人数据“所有权”保护问题。蔡立志认为，个人数据是极为重要的资源类型，各类App采集到的消费者数据如何使用和管理，是破解大数据“杀熟”的关键问题之一。

“个人在使用各类App时，可视为将个人数据交于App程序管理，应更加明晰其相关各方的权利义务。如果个人决定不再使用某款App，有权要求该App抹去此前的所有数据记录。”蔡立志说。

盛玉华表示，人工智能技术迭代快，其在市场及消费领域的应用也在快速多样化，设立统一的算法监管机构，对于提升算法常态化治理水平很有必要。（本报记者　姜伟超　马莎　王铭禹）

差评区变“夸夸群”，你的“差评权”被谁操控了

肥胖克星、助眠神药……在“神药”“神器”直播间，其商品评论区明明显示上万条差评，但点开后仿佛走错片场，全是配着精致“买家秀”、说着“一用就灵多次回购”的一致好评。

消费者不难发现，在“老牌”电商平台的商品评论区较为规范后，差评区变“夸夸群”的控评“沉疴”又跑到直播电商平台，并催生“新疾”：在一些靠着花哨广告和流量营销烘托起来的“流量产品”评论区肆虐横行，诱导消费者跟风买单。

专家表示，网购的真实评论事关公众消费权。恶意差评要不得，评论区“以次充好”更不可行。要依法依规清朗网络销售环境，依法保障消费者“差评权”。

“流量商品”差评区成“好评秀场”

在某直播电商平台一款“养生足贴”的商品页面，评论区赫然显示着2.3万条中差评，但当记者点开最新评价，里面却是清一色被“精装修”过的好评买家秀。

“湿气排出，浑身轻松”“睡眠足了，气色好了”“贴一下，躺着就能变瘦”……极具诱导性的文案搭配商家“标配”的效果图，部分评价甚至还显示使用几天至数月不等的追评，难辨真假。

“一吃就好”的神药、“一用就灵”的神器……记者梳理发现，“中差评区上演好评狂欢”这一现象在直播电商平台已司空见惯，噱头拉满的“流量商品”评论区更是成为重灾区。

62岁的兰州市民赵秀蓉过年前在直播电商平台买了一款“磁吸防打鼾鼻夹”。“宣传很玄乎，就想着买来试试。”她说，收到货试用后，她发现不仅磁吸吸不住，戴上去呼吸也变得更困难。她想着写个差评提示其他消费者不要上当，没成想差评写完提交，自己在评论区怎么找也找不到。

甘肃省爱豆云数字科技有限公司云服务部门经理王娟介绍，在流量时代，商品提供的“情绪价值”在网购过程中变得越来越重要。商家运用社交平台短视频、直播等形式精心设计宣传推介内容，通过越来越精准的算法推流，使消费者在短时间内接触到大量符合个人“人设”和“情感需求”的产品信息，“流量商品”应运而生。

“而中差评是消费者对‘流量商品’进行‘情绪反馈’的关键地带。”王娟说，消费者下单前往往习惯性探知商品的“下限”，让消费者在中差评里找到“好评”，就成了“流量商品”巩固“情绪价值”、撬动流量的重要手段。

受访专家表示，网购打破了时间和空间的限制，商品信息一搜即达，极大提高了消费者购物的灵活性和自由度，因此从某种程度上来说，电商比实体店竞争更加激烈。在这种情况下，一些“流量商品”商家不得不采取一些手段，甚至为提升销量不惜铤而走险，雇佣网络“水军”刷单控评，形成灰色产业链。

“差评反转”被明码标价

去年1月，浙江松阳警方破获一起“网络水军”虚假刷粉大案，犯罪团伙在短短三个月内培养了16万名刷单手，涉案金额超1000万元，非法获利超100万元。

去年10月，四川内江警方破获的“网络水军”团伙案，在两年多时间内为多个平台1000余户商家“刷单控评”，涉案金额高达1亿元。

兰州大学管理学院副教授王洪鹏表示，网络水军增粉引流早已形成灰色产业链。“其刷量、删差评、虚假评价等行为扰乱了电商行业的健康交易秩序，破坏了市场的公平竞争环境，侵害了消费者的知情权和选择权”。

甘肃政法大学民商经济法学院副教授盛玉华介绍，虽然我国现行相关法律中，并未直接使用“差评权”这一表述，但这实际上是消费者知情权、监督权、批评权在互联网交易场景下的具体体现。电子商务法、消费者权益保护法等均有明文规定，消费者有权对商品、服务进行监督、检举、控告，经营者不得编造用户评价误导消费者。

盛玉华表示，消费者的真实差评是知情权实现的重要信息源，也是监督权的直接行使方式，刻意压制差评构成对消费者合法权益的侵犯。

记者在某社交平台搜索，发现上千篇教授如何“反转差评”的攻略，部分贴文评论区直接明码标价“引路”：“5秒复制，2元一条”。

记者随机私聊一位博主，以“改差评”为由询价，对方表示，差评“可盖不可改”，差评区好评费用根据文案、配图、账号需求不同略有差异，但最高收费一条不超过8元，并扬言“能在24小时内将差评区好评率提升至90%以上”。

近年来，广东、辽宁等地针对“好评返现”“刷单控评”等问题开展专项整治。2024年以来，网信部门持续加大对网络水军打击力度，严肃查处网络水军组织招募、推广引流、刷量控评等问题。

王洪鹏等人认为，虽然治理取得阶段性成效，但由于技术迭代及“网络水军”组织模式的“自我进化”，这一黑灰产连根拔除的难度和复杂性依然严峻。

依法保护消费者权利

受访专家表示，目前已有多起涉商品“差评”案件的判决维护了消费者的评论权，既是对消费者权益的保障，也是对市场秩序的维护。但目前在法治、技术、监管等方面仍存薄弱环节，制约网络消费生态健康有序发展。

盛玉华认为，尽管目前有多部法律对差评问题进行了规制，但主要针对传统电商平台，对于直播带货等新兴电商模式中出现的问题尚未作出比较详细的规定。

甘肃慧联信息科技发展有限责任公司总经理王雪莲已有15年电商从业经历，她坦言，目前一个明显趋势是，“流量商品”直播电商平台的评论区变相担负起“第二详情页”的重任。在主播的有意引导和“暗示”下，客户在直播间和商品详情页停留的时间越来越短，基本都会点到商品评论区去浏览评论。

因此，“美化”差评区就成为一些商家重要的营销手段。“比如治疗、治愈等词语属于敏感词，商家在详情页无法提及，于是就钻法律和制度的空子，转战评论区大施拳脚。”王雪莲说。

王洪鹏介绍，商家通过后台技术手段将真实差评折叠隐藏，同时批量上传伪造好评，将差评淹没，这种现象已形成固定套路。“文本评论与数字评分之间没有进行技术关联，这一算法漏洞催生投机行为，让商家突破平台禁忌宣传产品有了可发挥空间”。

王娟等人表示，即便部分消费者因“流量商品”的质量问题争取到了退货退款甚至仅退款服务，但一些低售价、高客单、高利润的“流量商品”会选择放弃利润只“跑量”。“消费者看起来没有损失，但其实对商家来说最值钱的是客户信息，这可以让他们下一次的推流更加精准，流量抵抗力较低的中老年群体，就容易成为‘靶子’。”

“此外，低违法成本难以对犯罪分子形成有效震慑。”盛玉华说，目前根据相关法律，对虚假宣传的最高罚款为200万元，相较直播间虚假评价带来的收益，违法成本不过是九牛一毛。

受访专家建议，未来应持续健全相关法律规制，加大对网络水军刷单控评违法行为的打击力度。同时，平台可探索通过引入第三方平台或二次评价体系优化电商购物评价机制，进一步把好商家准入门槛。此外，消费者也应该擦亮眼睛，网购时注重查看商品的合法合规资质，对满屏好评的“流量商品”提高警惕。

“唯有保障评价体系的真实性，才能形成健康网购市场生态。”盛玉华说。

（本报记者　姜伟超　马莎　王铭禹）