中新网10月29日电 据“公安部网安局”微信公众号消息,随着AI生成技术的普及,只需简单输入文字指令,就能生成以假乱真的图像、视频,这不仅让谣言传播门槛大幅降低,更让不少人在“猎奇”“博流量”的驱使下,触碰法律与道德的红线。近日,山东威海网安部门查获两起通过AI编造、传播网络谣言的违法行为。
案例一:近日,威海网民张某为提升账号关注度,博取流量、牟取私利,使用某AI工具编造了“在监狱直播带货”图片的谣言信息,并发布在某互联网平台,引发大量网民关注和讨论,扰乱公共秩序。

案例二:近日,在广东台风期间,威海网民迟某为博取眼球、吸引流量,编造“广东阳江两所教学楼因台风受损”虚假灾情视频画面,在某短视频平台发布,误导大量网民关注,严重扰乱社会公共秩序,引发恐慌,造成了不良社会影响。

公安机关依法给予张某和迟某行政处罚。
法律责任
根据《中华人民共和国治安管理处罚法》第二十五条的规定,散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处以五日以上十日以下拘留,可以并处五百元以下罚款;情节较轻的,处五日以下拘留或者五百元以下罚款。
风险隐患
通过类似案件看,一些AI谣言的背后已形成分工明确的灰色产业链。其具备“低成本量产”的特性,有资料显示通过AI单日最高可生成4000至7000篇虚假文章,成本仅为传统造谣的1%。AI谣言带来的风险隐患确实值得高度警惕,其风险隐患主要体现在:
一是与传统谣言相比,AI谣言因其技术特性,危害性呈指数级放大:
二是具有高仿真与强迷惑性,生成的文字、图片、音视频内容逼真,普通网民难以分辨。
三是进化与迭代能力强,AI谣言甚至能针对辟谣信息快速生成新版本进行反驳或迭代,形成“打地鼠”式的动态对抗,让治理防不胜防。
如何预防
作为信息接收者,可以通过以下方式识别潜在的AI谣言:
查源头:警惕那些没有明确作者、来源模糊或伪装成“网友投稿”“内部消息”的内容。可靠的信息通常有正规的新闻机构或官方信源背书。
看细节:对于图片和视频,仔细观察是否存在AI生成的典型痕迹,例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。
验逻辑:判断内容是否存在明显的事实错误或逻辑矛盾,比如时间线错乱(用未来的数据描述过去的事件)或地理信息错误。
用工具:善用权威辟谣平台进行查证,同时可以关注公安部网安局发布的相关警示信息。
05748
47928
2025-10-29 15:45:07
81309
84729
2025-10-29 15:45:07
16492
01428
2025-10-29 15:45:07
34520
02189
2025-10-29 15:45:07
02567
25480
2025-10-29 15:45:07
58021
84517
2025-10-29 15:45:07
06352
94072
2025-10-29 15:45:07
29541
10829
2025-10-29 15:45:07
20983
16750
2025-10-29 15:45:07
32685
68345
2025-10-29 15:45:07
43978
45830
2025-10-29 15:45:07
34510
63710
2025-10-29 15:45:07
06813
53842
2025-10-29 15:45:07
76305
95714
2025-10-29 15:45:07
29036
74903
2025-10-29 15:45:07
52096
70149
2025-10-29 15:45:07
73482
73695
2025-10-29 15:45:07
40371
86342
2025-10-29 15:45:07
86432
76304
2025-10-29 15:45:07
13906
25109
2025-10-29 15:45:07
24361
56803
2025-10-29 15:45:07
05947
58429
2025-10-29 15:45:07
72195
15264
2025-10-29 15:45:07
39628
53126
2025-10-29 15:45:07
36782
04753
2025-10-29 15:45:07
50874
46381
2025-10-29 15:45:07
08246
50831
2025-10-29 15:45:07
29761
28916
2025-10-29 15:45:07
05219
13296
2025-10-29 15:45:07
74325
13604
2025-10-29 15:45:07
36418
13574
2025-10-29 15:45:07
09142
01498
2025-10-29 15:45:07
74130
02376
2025-10-29 15:45:07
42618
08139
2025-10-29 15:45:07
03681
26719
2025-10-29 15:45:07
42136
75081
2025-10-29 15:45:07