快评丨AI造假挑战社会信任，合规使用与严厉惩处需并重

抖音热搜 2025年10月22日 04:58 9 admin

网络不是法外之地。全国公安机关按照“净网—2025”专项工作部署，聚焦人民群众反映强烈的网络谣言突出网络违法犯罪，持续加大打击整治力度。近日，公安部公布10起打击整治网络谣言典型案例。

值得警惕的是，网络谣言制造手段不断翻新，比如10起案例中2起明确提及“使用AI工具生成”。一是王某彪使用AI工具生成“女儿被人抱走”的虚假信息，引发关注讨论，误导热心人士转发寻找；二是王某用AI工具捏造涉“山西大同地震”相关谣言信息的文字与视频，误导大量网民关注和讨论。这些案例均扰乱社会公共秩序，涉事人员均已被依法追究相应法律责任。此举不仅惩治了违法行为，更以儆效尤，让社会认识到散布谣言、扰乱公共秩序的严重后果与必须承担的法律责任。

只是让人感慨的是，这些案例才新鲜出炉，有入选下批次“潜质”的案例已开始冒头。据报道，近日，安徽一女子用AI工具生成“流浪汉闯入家中”图片测试丈夫反应，没想到丈夫信以为真，当即报警求助。

若说这种“纸上试探只是‘蠢’”，影响只局限于家庭内部。可进入AI时代，“流浪汉入室警情”之类谣言在网络流传，就不只是“坏”的影响。即便有标注“AI生成”，但情急之下，当事人很容易忽略提醒信以为真。造假方明知对方可能误判，还故意制假误导他人，这种间接故意或也算“报假警”的共犯。

更恶劣的是，一张逼真的AI假图容易引起巨量关注，更可能造成不良示范。报道中就提及，近期多地已出现类似AI整蛊引起的闹剧，有的引发整栋楼逐层排查，有的导致亲属紧急奔袭。

无论是导致报假警，还是引发社会恐慌，都已走到了违法犯罪的边缘。有法律人士就指出，因这一行为报警，占用的不仅是警力，还可能是别人的救命机会。如果被认定是报假警，按治安管理处罚法，将面临5-10天拘留的处罚，同时需缴纳500元罚款。如果视频被转发从而引发社会恐慌，可能触犯刑法中的编造虚假信息罪。

需要强调的是，如何规范使用AI技术并惩治造假行为，是进入“AI时代”后必须厘清的严肃课题。这不仅关乎技术发展，更关乎社会信任与公平正义。为此，必须多管齐下，从科技伦理、技术规范及法律实践等方面共同界定与推进。

完善科技伦理治理，不仅要为数字技术安装“安全护栏”，更要为其设定“方向盘”，以免对当前乃至未来科技和社会发展造成冲击。科技向新、向善，但首先必须向真。这也是网络冲浪必修课，否则对着虚假标靶表错情的尴尬，会在各种乌龙反转事件中一再上演。

技术规范方面，国家标准《网络安全技术人工智能生成合成内容标识方法》，已于9月1日正式施行。不以假乱真，AI生成的吸睛文图视频，必须规范标注“AI生成”。只有“划清虚实边界”，才能防范滥用风险，并充分保障网络用户的知情权与选择权。

总之，利用AI造假测人心、博流量，都是对家人爱心和社会信任的无谓消耗，若造成警务和公共资源浪费甚至引发不必要的社会恐慌，还面临拘留罚款甚至刑事责任。公安部典型案例已经给出执法示范，以身试法必然要付出沉重代价。对触犯法律红线的必须严惩，网络规范使用、司法震慑严惩，多管齐下才能有效阻击滥用AI吸粉引流的各种乱象。

红星新闻评论员李晓亮

编辑汪垠涛

审核何先菊

红星评论投稿邮箱：hxpl2020@qq.com

（下载红星新闻，报料有奖！）