您的位置:首页 >资讯 > IT >

打造“完美主播”、暗设消费陷阱,AI营销边界在哪

2025-03-14 11:19:58    来源:新华每日电讯

你在网络直播间看到的正在带货的名人明星是真人吗?未必。近期,小米集团创始人雷军建议加强“AI换脸拟声”违法侵权重灾区治理,再次引发公众对AI数字人使用的讨论。

去年以来,AI生成的数字人大量“占领”电商平台,有的靠“图”预售、以次充好,还有的用AI数字人仿冒名人外貌及声音为一些“神药”“神器”背书,短时间内卖出巨额大单。在这背后,一套从肖像、配音,到文案生成的AI数字人带货制作流程充斥网络,带来众多监管难题。

专家表示,利用AI数字场景直播带货是电商发展的新趋势,但在发展前期,一些不法商家利用监管漏洞侵害了消费者权益,建议尽快完善法律法规,强化平台责任,设定AI数字场景使用边界,防止AI“赋能”变AI“负能”。

一场“眼见是否为实”的暗战

兰州市民崔女士近日在网络直播间购买了一件春季薄款毛衫。商品页面中模特展示这款毛衫的面料细腻柔软,穿在身上得体优雅,她感觉自己的身材也像模特一样属于偏瘦类型,于是下单。而收到实物后却发现,这件毛衫材质既不细腻也不柔软,裁剪还很粗糙,她深感上当受骗。

经过与售后一番费尽周折的交流,崔女士得知,该模特其实是AI生成的“数字人”,面料的视觉效果都经过了AI技术的“渲染”。

甘肃慧联信息科技发展有限责任公司总经理王雪莲已有十多年电商从业经历。她告诉记者,雇用模特试穿拍照是服装电商行业的传统做法,但AI数字模特的迷惑性在于它可以通过参数设置,生成“九头身”“马甲线”理想化身材,并借助AI渲染技术消除衣服褶皱、增强光泽感和飘逸灵动感,使廉价的面料呈现出昂贵质感,让消费者误判服装的实际效果。

崔女士的购物经历并非个例。记者调查发现,在直播带货领域,AI数字人通过仿真的面部形象、声音和精心的场景布置,其迷惑性让消费者防不胜防。

更有甚者,有商家将名人明星换脸为数字人“平替”。去年以来,“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间,更有不法商家生成“AI张文宏”,“严肃认真地在直播间卖蛋白棒”,从开播到被举报关停,短时间内卖出了1200多单商品。

除了借用名人效应外,一些商家用AI技术打造数字人人设,如“成功女企业家”“单亲妈妈”“带娃宝妈”“知性美女”“美妆达人”等,利用特定人群的同理心直播带货。而在保健品、药品、化妆品、医疗辅助器械“三品一械”领域,精心打造的数字人面向老年人、学生等辨别能力弱的群体,大肆夸大产品功效,快速敛财。

AI数字营销监管“网眼大”

针对AI数字人仿冒名人直播带货、AI换脸诈骗等违法行为,国家网信办已出台《人工智能生成合成内容标识办法(征求意见稿)》,并开展网络清朗行动等专项行动约束管理。

然而,对于正处在发展初期的AI数字营销,一些专家表示,从法治层面到平台监管,还存在诸多漏洞。

记者在某平台上输入“AI数字人直播教学”等关键词,搜索出成千上万个教程,学费从几十元到数百元不等,还有的甚至免费。

记者联系一位收费教程博主,其称“三分钟教会搭建AI数字人直播间”,并承诺“一天可以做近百个数字作品,都能通过原创审核”。

兰州大学信息科学与工程学院副教授刘忻表示,AI技术发展迅速且具有技术门槛低、隐蔽性强、更新迭代快的特点,随着开源工具的普及,普通人仅需少量数据即可生成逼真的仿冒内容,而且传播速度快、范围广。当前,从数据采集、AI模型训练到虚假账号运营,已形成分工明确的产业链。

甘肃政法大学民商经济法学院副教授盛玉华表示,利用AI仿冒他人形象直播带货或从事其他违法经营行为,违反了广告法、个人信息保护法等多部法律法规,但面对AI数字人营销骗局,当前最大的难点不是“无法可依”,而是“有法难依”。

盛玉华说,AI数字人虚假营销涉及技术提供方、内容生成者、直播平台、商家等多方,现有法律未明确各方责任划分,导致在实际执法过程中难以准确适用法律。

针对AI数字人误导消费者风险,2024年某平台优化了对AI主播的识别能力,累计处理超17万个录播直播间,封闭3万多个账号,打击2800多个黑商团伙。但从平台管理来看,仍存盲区,审核机制还有待完善。

兰州大学管理学院副教授王洪鹏说,此前该平台通过博主的粉丝量来设计带货门槛,随后这一规定被取消,直播带货门槛降低,也为AI数字人虚假营销提供了可乘之机。

多方发力加强引导 促AI数字营销健康发展

在王雪莲、盛玉华等业内人士和受访专家看来,从长远来看,AI数字营销将会革新传统的电商销售模式,赋能消费领域和销售环节,给市场带来更多更好的体验。

事实上,目前AI数字人已在多个领域提升电商销售发展水平。在服装电商行业,AI数字技术正通过数据挖掘、视觉算法和个性化推荐,提升关联销售水平,如有的平台推出AI搭配和AI试衣间,用户在平台内创建虚拟形象后,AI就会帮助顾客生成多种穿搭方案,直接链接到关联商品,大幅提升商品关联销售额。

而当前出现的各类AI数字人虚假营销,是AI赋能网络直播销售发展初期,监管机制不完善的阶段性产物。“当务之急是要从法律层面补齐监管漏洞。”盛玉华说,首先要明确AI生成内容的法律性质和责任归属,厘清技术提供方、内容提供者、平台、商家等多方主体的责任边界,提高法律可操作性。

业内人士建议,在刑法、网络安全法等法律框架下,对利用AI技术编造传播虚假信息,实施诈骗、诽谤、侵害肖像权等行为,细化法律适用规则,加大惩处力度。

同时,要持续强化平台责任,健全内容审核机制。例如利用技术手段,对直播和商品信息进行监测,及时发现和处理AI虚假营销行为。可通过在AI直播间标注类似“AI直播注意鉴别”等字样,把知情权、选择权交给消费者。

王雪莲等认为,对于AI数字赋能网络销售这一新事物,相关部门要加强对消费者的AI素养宣传教育,提升其认知能力,并不断完善在AI数字人大规模发展背景下消费者投诉举报机制,降低维权成本,让消费者从“技术弱势方”转变为“监督主力军”,打破“维权难、违法易”的恶性循环。

( 姜伟超 王铭禹 马莎)

标签:

相关阅读

精彩放送

在线“诊断”心理问题,靠谱吗?

深圳出台具身智能机器人产业发展行动计划

落实“人工智能+”行动 推动数字贸易高质量发展

共同担当人工智能全球治理责任

从蓝图到实景,低空经济蓬勃发展

国产手术机器人:从“跟跑”到“并跑”

科技+电影,好戏还在后头

让科技供给与产业需求“双向奔赴”

从蓝图到实景,低空经济蓬勃发展

国产手术机器人:从“跟跑”到“并跑”

科技+电影,好戏还在后头

让科技供给与产业需求“双向奔赴”

旭华科技首创曲面石墨烯技术 实现低成本量产化

人形机器人迈向群体智能 产业链公司积极助力技术落地

多地竞逐具身智能赛道 政策与资金同步发力

人工智能终端产品加快落地 有望催生万亿元级蓝海市场

中国牵头制定养老机器人国际标准

人工智能人才成“香饽饽” 企业纷纷亮出高薪“招贤榜”

金价高位回调 趁机购入还是继续观望?

功能性护肤成拖累,华熙生物进入业绩阵痛期

奢侈品转向“一城一店”集中化布局

年轻人消费“含金量”提升,黄金市场“小而美”产品热销

聘任前欧莱雅高管,贝泰妮寻业绩突破口

黄金价格下跌 该出手吗?

远离网络购物陷阱 牢记“三不”原则

国产运动品牌加速“出海”布局

每天洗头会导致脱发?

海龟爸爸2025春夏新品发布

华为余承东:2025款问界M9和问界M8分别于3、4月上市

出行新标配!比亚迪携大疆打造灵鸢,让出行大片触手可得

10城开展公共领域车辆全面电动化试点

DeepSeek席卷车圈 AI如何改变你的用车生活

国家能源局:推动燃料电池汽车试点应用

国车红旗礼遇国门,红旗国悦助力首都机场贵宾服务升级

莲花跑车转向战略收缩 公司高层或将人事调整

1月新能源二手车需求小幅增长 中高端价格区间车辆受追捧

读懂5%的来之不易

从蓝图到实景,低空经济蓬勃发展

“舌尖经济”释放餐饮消费新活力

2月份6只QDII涨超20% 2月份1520只债基上涨

机器人+养老,期待一场硬核科技与温暖亲情的双向奔赴

南京:“小草莓”撬动“大产业”

重庆潼南汽车后市场产业发展见闻:从"卖废料"迈向"再制造"

湖北广水:乡村开公司 村民共兴业

探索“文体旅”融合牡丹江打造差异化冰雪旅游新格局

国际评级机构维持澳门特区“AA”长期信贷评级

京津冀协同发展新十年 天津迎来哪些经济发展新机遇

文旅产业破茧重生 消费潜能持续释放

外资企业最快1天落地北京

沈阳:向“新”求变 以“质”谋远

2024年苏州电力消费总量占全省22% 继续领跑全省

奋力往前赶 安徽勇担科技创新“排头兵”重任

合肥青年夜校非遗课堂走红 年轻人热衷体验传统文化

湖南郴州苏仙区:闲置农房“活” 乡村文旅“火”

数字技术“摆渡” 中国传统文化谋“出门”又“出圈”

滴!大学生实践团打卡国内首条空轨 体验未来城市交通

滴!大学生实践团打卡国内首条空轨 体验未来城市交通

3月份江南华南等部分地区强对流天气增多 洪涝和风雹灾害风险较高

全国累计春灌面积已达2600余万亩

2月份物流需求有序恢复 市场预期保持高位

哪吒也能数控造?大学生实践团带你走进武汉“高精尖”

春色花海醉游人 科技助力农业生产提质增效

南方未来三天多阴雨天气 西南华南气温持续下降

AI赋能、政策护航……中国罕见病诊疗迎来新机遇

社保卡能在任意地区补换吗?补换后需要重新激活吗?

春菜鲜美丰富百姓“菜篮子” “一口鲜”餐饮热潮激发消费活力

“文化+”释放多元消费新场景 资本不断加码“蓝海”市场

把春天揉进花海 各地解锁“春日经济”

周口中院召开全市法院司法警察部门述职工作会

健康科学化减脂,毅靓邀您共创健康塑形新时代!

科学赋能·新质发展2025年环光明科学城骑行活动成功举办

电视剧《北上》热播 演员与幕后团队的专业精神并存

从孔达达正大气象的榜书到新绘画艺术的探索

从 “荣耀” 盛典回溯华外同文十载:秉持 “更中国更世界”,深耕教育沃野

第33届华交会盛大开幕 跨境电商高层论坛聚焦AI

270+城市次日达!顺丰构建“空中物流版图”,解锁云南蓝莓出海新速度

首届国际低空产业大会将于9月在成都举行

2025第二届越野车(SUV)新能源化与智能化发展大会即将启幕深圳 共创行业新篇章

护粮安 助春耕 l 国投罗钾出实招

从合规到赋能:贵州金玖获认证激活创新引擎

美好蕴育:通过差异化打造年轻人认可的孕产健康品牌

影豹夺冠车聚活动

共建女性健康屏障——当代妇产正式挂牌"宫颈癌防治协会理事单位"

杭州AI九小龙:民间科技天团,正在吊打全世界!

刘亦菲新造型打破舒适圈,润致玻尿酸引领面部抗衰美学奇迹

中清科技STFcore六维力传感器,引领机器人装配技术的新纪元

赛升药业:创新驱动发展,科技守护健康

无惧汽车垂直平台流量瓶颈 海尔18亿美元收购汽车之家

众捷汽车IPO“注册生效”,计划募资约4.22亿元

新春开门红!287辆宇通纯电动客车批量交付挪威

智慧演绎,共享未来——2025歌华国际车用空调展(广州站)盛大启幕!

乾崑版新增两大版型 全新岚图梦想家发力高阶智驾

埃安RT 650智享版上市!12.88万抄底650km

智驾黑科技加持,地平线HSD拟人表现通行北京繁忙城区

AI加速接入生活 究竟会带来什么

AI等技术助中企提高海外高端市场竞争力

政策技术双加持 消费电子赛道持续升温

北京首家苏宁易购Max店11.29正式开业

AI时代 仍需一锤一凿的“笨功夫”

AI“数智员工”:迈出人机协同治理重要一步

科学家首次实现跨膜荧光激活蛋白从头设计

DeepSeek,激荡AI行业的“一股清流”

AI时代影视制作需要更多“源头活水”

腾讯ima安卓端App正式上线 云存储空间免费扩容至2G

政策技术双加持 消费电子赛道持续升温

苹果、OPPO等厂商集中发力中端市场 AI有望成手机标配

AI等技术助中企提高海外高端市场竞争力

AI眼镜赛道持续火热 产业链布局正酣