以假乱真？国家终于出手了，不仅是李梓萌被牵连，全红婵也没逃过

抖音热搜 2025年10月24日 16:59 4 admin

当一段视频中李梓萌正襟危坐于央视演播厅，郑重推荐“深海鱼油可治手脚麻痹”时，数万观众信以为真。这并非真实新闻播报，而是AI深度伪造的虚假广告。

此类事件并非孤例。2023年，市场监管200起涉及AI换脸虚假代言的投诉，其中央视主持人李梓萌与奥运冠军全红婵被冒用次数分列前两位。技术门槛降低使伪造视频成本趋近于零，而公众信任却成为可被批量收割的资源。

李梓萌案发于2023年9月。一段38秒视频传，画面中她身着正装，背景为熟悉的新闻联播布景，声称“央视把关，产品绝对有效”。实际该产品仅为普通压片糖果，执行标准为SB/T 10347，与宣称疗效毫无关联。消费者投诉后，技术鉴定发现其口型与语音存在37毫秒延迟，面部光影反射不符合物理规律。

【迅速出具证明：李梓萌当月全程参与重大时政报道，无任何商业活动记录。涉事账号注册地为境外IP，通过国内代理服务器分发内容。更隐蔽的是，其视频素材均截取自公开新闻片段，经AI模型重组生成新语句，规避了传统版权检测。

几乎同步，全红婵视频在下沉市场广泛传播。包装盒印有其赛场照片，附带伪造的“国家体育总局推荐”字样。其家人不得不在社交平台发布手写声明：“从未授权任何农产品代言”。值得注意的是，这些产品多销往三四线城市及农村地区，老年群体占比达68%。

技术滥用背后是暴利驱动账本显示，成本3。2元的糖果被包装成“央视特供”，售价达298元，单月流水超700万元。犯罪团伙使用GAN模型训练，仅需200张公开照片即可生成高仿真视频，准确率达92。4%。

2024年1月，国家网启动“清朗·AI造假整治”专项行动。首例刑事判决中，主犯以非法利用信息网络罪获刑三年六个月，并处罚金80万元。新规明确要求：深度合成内容必须添加不可消除的数字水印，平台需对虚拟人账号实施实名+人脸核验双认证。

然而性。中国信通院数据显示，2023年AI换脸工具下载量同比增长410%，其中73%未接入内容安全审核接口。部分开源模型甚至提供“去水印”插件，形成完整黑产链条。技术中立原则在此遭遇伦理拷问：当工具可被轻易武器化，开发者是否应承担连带责任？

公众认知存在显著断层。中国消费者协会调研显示，61。3%的50岁以上受访者无法识别AI伪造视频，而该群体正是保健品消费主力。反诈宣传仍停留在“不点陌生链接”层面，对新型深度伪造缺乏有效预警机制。技术素养的鸿沟正在转化为财产损失的温床。

值得内容正从商业欺诈向政治领域渗透。2023年某地曾出现“官员讲话视频”要求转账至指定账户，虽被及时拦截，但暴露了更严峻的公共安全风险。当权威信源可被任意篡改，社会信任基石或将动摇。

法律层面亦面临挑战。现行《广告法》对虚拟代言人责任界定常以“技术中立”为由规避审核义务。专家建议修订《深度合成服务管理规定》，明确“谁合成、谁标注、谁负责”原则，并将恶意伪造纳入侵犯肖像权范畴。

技术防御需同步推进。中科院自动化所已开发“光影一致性检测算法”，通过分析瞳孔高光、皮肤次特征，识别准确率达98。7%。但该技术尚未强制嵌入短视频平台审核流程，商业落地存在成本顾虑。

个体防范意识同样关键。国家反诈中心提示：凡涉及转账、购买行为，务必通过官方渠道二次核实。央视主持人、奥运冠军等公职身份人员，依法不得从事未经批准的商业代言常识盲区。

李梓萌与全红婵的遭遇，折射出数字时代信任体系的脆弱性。技术不应成为掠夺弱势群体的工具，更不能消解社会基本共识。当AI能完美复刻人类表征，我们或许需要重新定义“真实”的边界——它不应仅依赖感官判断，而需制度、技术与公民。

国家出手整治，既是止损，更是重建。唯有将技术伦理嵌入创新基因，方能在享受便利的同时守住底线。这场真假之战，考验的不仅是监管智慧，更是整个社会对数字文明的理解深度。

中共中央组织部明确：这八类人员列入公务员范围！

发表评论