据报道，歌手陈奕迅因感染新冠导致演唱会延期，岂料没几天，其“离世”的消息传得沸沸扬扬。近日，各方紧急辟谣此为“假消息”，有记者查询发现，该谣言的源头是YouTube上某账号发布一则长达9分27秒的视频，内容基本为拼接该明星旧照并辅以AI配音。

其实，利用AI技术造谣已经不是什么新鲜事了。前不久，网信部门公开曝光了第六批网络谣言典型案例，涉及公共政策、突发案事件和社会民生等多个领域，其中多起案例系利用人工智能（AI）技术编造虚假信息。这些谣言不仅误导公众认知，还扰乱社会秩序，危害性不容小觑。据南都大数据研究院不完全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超1/5与AI“造谣”有关。

举个例子。去年10月，一则标题为“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”的文章在网络上广为流传。该文章不仅标题博人眼球，形式也颇为逼真，时间、地点、人物、事件等新闻要素齐全。可是经警方查明，当地根本没有发生过这一事件。这篇引发热议的文章，是由一家传媒公司通过AI工具洗稿生成的，即利用AI技术，对他人发布的高热度文章、信息进行抄袭、改写、删减、拼凑，甚至直接编造，摇身一变成为伪原创内容。

AI造谣“一键生成”，辟谣却要跑断腿。有了AI技术，造谣也比以前简单多了。过去“纯手工制作”的假新闻，由于写作者往往并不熟练，信息中很容易露出马脚。但AI则“专业”很多，只需在后台简单输入指令，就能批量生产仿真度极高的假新闻，新闻5个W要素编得天衣无缝，还能自己生成图片，甚至配上了视频，迷惑性和欺骗性更强。虚假信息及网络谣言在AI的加持之下，其杀伤力呈现出几何级的变化。更为可怕的是，AI的造假能力几乎没有上限。去年，南昌一家机构因为利用AI造谣被查处，这家机构用AI生成文章和图片，最高峰一天能生成4000至7000篇，每天收入在万元以上。如此巨大的体量，让所谓“AI污染”之类的担忧变得非常现实。

在享受AI技术红利的同时，必须警惕技术被滥用的风险，及时筑牢治理防线。

AI技术终究只是工具，如何利用，还是取决于背后的主体。治理利用AI技术造谣，不能仅靠约谈、罚款、关停下架等措施。更为关键的是构建起系统性、全链条的治理机制。这就需要进一步完善相关法律法规，细化AI生成内容的法律规范，让监管更加精准有力。尽管目前我国已颁布实施了一系列等法律法规，但面对快速发展的AI技术及日益丰富的应用场景，仍需进一步细化完善相关法律法规，加强源头治理，强化落地执行机制，推动立法、执法、司法等形成强大合力，提高造谣者的违法成本。

当然，增强对“AI系谣言”的免疫力和鉴别力，也是AI时代必备的一种媒介素养。有评论是这样说的：当我们看到一篇来源成谜、又精准戳中浏览和转发冲动的内容时，不要丢掉最基本的质疑能力，先问问自己：眼前的内容，会不会是AI“洗”出来的耸动谣言？

有道理。

小马飞刀