Ai造谣的新型乱象如何治理?
- +1 你赞过了
【天极网IT新闻频道】上海东方卫视近期近期“夜线约见”节目中,AI 造谣言这一新乱象成为了关注焦点。随着 AI 技术的蓬勃发展,由其催生的虚假谣言不断涌现,给社会带来了诸多负面冲击。
节目中,众多令人警醒的案例被一一曝光。例如,“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等骇人听闻的消息,竟是利用 AI 软件蓄意炮制而成。日前,多地警方对部分 MCN 机构负责人予以行政处罚,并封禁其网络账号。原因在于这些机构借助 AI 大量生成谣言信息,妄图赚取平台的流量分成。此外,还有诸如“某著名女星命运多舛,含恨离世”这类利用 AI 软件合成故意纵火虚假视频、编造社会知名人士重病离世等恶劣行径。“上海浦东海滩女童走失事件”中,出现了“女孩父亲系继父”“女孩被带往温州”等谣言,这些谣言由团伙通过AI制造文本,然后批量注册网络账号,并对其进行转发炒作而产生,阅读量超百万,该团伙借此非法获利 4 万余元。
骆某某为博取流量吸引粉丝,将其他地区的抗洪救灾视频,利用 AI 软件的编辑功能,嫁接新疆乌什县发生地震的虚假视频信息,引发大量网民评论和转发,严重干扰社会秩序,影响了社会安全。于某某为蹭热度给自己账号涨粉,使用 AI 工具将“贺州市第五高级中学小卖部经营权调查情况的通报”重新生成一篇与政府发布通报实际情况严重不符的文章,并发布到网上。
面对AI造谣这一严峻的问题,如何治理这一新乱象成为了亟待解决的重要问题。上海帆石信息技术有限公司研发的Ai检测产品安可小助手针对Ai造谣可以发挥重要作用,安可小助手凭借先进的技术和算法,能够对 AI 生成的文字、图片、视频、音频进行精准辨别,通过对大量数据的学习和分析,能够从语言模式、逻辑结构、信息来源等多个维度进行判断。比如,对于文字内容,安可小助手可以识别出不符合正常语言习惯和逻辑的表述,对于图像和视频,能检测出像素异常、画面拼接等痕迹,从而 对可能是AI 生成内容进行预警,避免因内容发布造成的不良影响。
长远看,治理 AI 造谣是一个长期工作,AI工具的简易操作,让内容生成成为一个低门槛的的工作,所以,上海帆石信息技术有限公司(安可小助手)认为,对生成内容在源头上进行AI检测,及时甄别,是可以有效的避免AI生成的不法内容泛滥,也有助于原创内容的传播,从而*大程度的降低AI造谣带来的不良影响。
最新资讯
热门视频
新品评测