Ai造谣的新型乱象如何治理？

【天极网IT新闻频道】上海东方卫视近期近期“夜线约见”节目中，AI 造谣言这一新乱象成为了关注焦点。随着 AI 技术的蓬勃发展，由其催生的虚假谣言不断涌现，给社会带来了诸多负面冲击。

节目中，众多令人警醒的案例被一一曝光。例如，“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等骇人听闻的消息，竟是利用 AI 软件蓄意炮制而成。日前，多地警方对部分 MCN 机构负责人予以行政处罚，并封禁其网络账号。原因在于这些机构借助 AI 大量生成谣言信息，妄图赚取平台的流量分成。此外，还有诸如“某著名女星命运多舛，含恨离世”这类利用 AI 软件合成故意纵火虚假视频、编造社会知名人士重病离世等恶劣行径。“上海浦东海滩女童走失事件”中，出现了“女孩父亲系继父”“女孩被带往温州”等谣言，这些谣言由团伙通过AI制造文本，然后批量注册网络账号，并对其进行转发炒作而产生，阅读量超百万，该团伙借此非法获利 4 万余元。

骆某某为博取流量吸引粉丝，将其他地区的抗洪救灾视频，利用 AI 软件的编辑功能，嫁接新疆乌什县发生地震的虚假视频信息，引发大量网民评论和转发，严重干扰社会秩序，影响了社会安全。于某某为蹭热度给自己账号涨粉，使用 AI 工具将“贺州市第五高级中学小卖部经营权调查情况的通报”重新生成一篇与政府发布通报实际情况严重不符的文章，并发布到网上。

面对AI造谣这一严峻的问题，如何治理这一新乱象成为了亟待解决的重要问题。上海帆石信息技术有限公司研发的Ai检测产品安可小助手针对Ai造谣可以发挥重要作用，安可小助手凭借先进的技术和算法，能够对 AI 生成的文字、图片、视频、音频进行精准辨别，通过对大量数据的学习和分析，能够从语言模式、逻辑结构、信息来源等多个维度进行判断。比如，对于文字内容，安可小助手可以识别出不符合正常语言习惯和逻辑的表述，对于图像和视频，能检测出像素异常、画面拼接等痕迹，从而对可能是AI 生成内容进行预警，避免因内容发布造成的不良影响。