“一天造谣7000条”，人工智能技术不能这么用

时间： 2024-06-20 02:34     浏览量：515

“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息，竟都是利用AI软件炮制的谣言——据央视新闻报道，近日，一些不法分子为赚取平台流量补贴，实现流量变现，利用AI合成技术编造谣言，严重扰乱社会秩序。多地警方对相关责任人进行了行政处罚，并封禁其网络账号。

与以往靠自身发挥想象力杜撰“小作文”不同，如今利用AI造谣的门槛和成本更低。只需要输入关键词，AI软件就能自动在网络上抓取素材生成文本，再配上貌似和事件具有相关性的虚假图片，一条图文并茂、“有图有真相”的谣言就诞生了。

可怕的是，这一过程基本不需要人的参与，就可实现谣言的批量生产。比如，发布“西安爆炸”虚假新闻的账号所属机构，最高峰一天能生成4000至7000篇假新闻，每天收入在1万元以上，而公司实际控制人王某某经营着5家这样的机构，运营账号达842个，这一数字触目惊心，令人十分不安。

造谣难度降低了，其产生的负面影响陡然增大。AI造谣能生成极为逼真的图片、音视频，这就颠覆了“有图有真相”的常规认知，蛊惑性极强。以新闻报道的口吻生成所谓的“突发新闻”，再配上耸人听闻的标题，短时间内就能快速传播，让不明真相的民众轻信，易引发社会恐慌，扰乱社会公共秩序，对社会信息生态造成极大的破坏，而相关部门的查证、辟谣则要浪费大量的社会资源。

造谣、发布、扩散，说到底，是有人看到这背后有利可图。在警方查获的数起造谣案件中，当事人将虚假消息发布在平台，平台会根据文章的点赞数和阅读量支付相应的报酬。在这一规则的刺激下，不法分子利用AI技术“加持”，追求谣言更逼真、内容更猎奇、传播更快更广，博取更多眼球，从而牟取流量带来的巨大经济利益。

刺破不法流量经济的美梦，需要法律利刃出鞘。一些人奉行流量至上，心中既无法律观念，也无道德底线，甚至把冲撞法律红线的行为当成流量密码、炫耀资本。网络并非法外之地，在互联网造谣情节严重的，将被依法追究法律责任，这应该成为悬在每个网民头上的警钟。同时，惩处造谣的力度也要再有力一些，让造谣成本再大一些。

谣言通过平台发布传播，平台理应负起主体责任。作为具有技术优势的一方，平台要在内容甄别、阻断谣言、防止扩散方面积极主动作为。现有的内容监管机制还有哪些漏洞、分成机制是否合理、处罚措施是否完善，这些都应该成为平台查漏补缺的重点。对于造谣者，该警示警示，该截流截流，该封号封号，让毒流量“利尽而断”。

造谣手段在迭代，相关治理也要使出“加强版”新招儿。监管部门对网络谣言的出击一直在持续。面对AI技术生成的新型谣言，执法监管要利用技术赋能，让识别谣言的精准度更高、阻击速度更快、打击力度更强，斩断造谣背后的黑灰产业链，营造清朗网络空间。