近年来，AI技术迅速发展，已成为全球科技领域的热点。在不断迭代升级的AI技术面前，“眼见为实”“有图有真相”正在被挑战。AI低成本、高效率、操作简单，俨然成为一些别有用心之人的造谣敛财工具。
AI造谣
【AI造谣的定义】
AI造谣指的是利用人工智能技术生成虚假信息，包括文字、图片、音视频等，以此来制造网络谣言。
【AI造谣典型案例】
案例一：利用AI软件编造“山体滑坡致8人遇难”网络谣言
2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害 已致8人遇难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。目前，公安机关已依法对杨某某进行行政处罚。
案例二：利用AI软件编造“喜德县地震”网络谣言
2024年6月9日，有网民在某视频平台发布视频称：“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。目前，公安机关已依法对罗某某进行行政处罚。
案例三：利用AI软件编造“女子电动车被扣后猝死”网络谣言
2024年6月，某网络平台出现一条关于“执法与人性的碰撞：五旬妇女电动车被查扣猝死”的消息。该文章称：“澄城县一妇女为了照顾病重的父亲匆忙赶路，却遇到交警执法，在哀求无果、电动车被扣后，情绪瞬间崩溃，心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注，给当地造成极大的负面影响。经调查，田某利用AI工具，加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前，田某对自己通过AI软件编造谣言的情况供认不讳，公安机关依法对田某处以行政处罚。
以上案例均是通过AI软件合成的不实信息，不法分子为了赚取平台奖励或吸引流量，使用AI软件自动生成文章，并与实际图片进行嫁接，发布在网络平台上，造成不良社会影响，严重扰乱社会公共秩序。
01、AI造谣软件会通过造谣者提供的关键字自动在网络上抓取相关信息，以热点新闻和随机网络音视频为素材，批量化生产网络谣言，投放到各大网络平台上，实现吸引眼球或流量变现的目的。
02、部分互联网平台奉行“流量至上”，放任假新闻、“标题党”、争议性话题传播，为AI谣言的大行其道提供了不良土壤，也催生了灰色产业链加速形成。
03、当网络谣言披上AI的外衣时，不但能自动生成文本，还能生成逼近真实的图片和音视频，让不存在的场景变得栩栩如生，让虚构的人物仿佛真实存在一般。这就完全颠覆了我们常规认知里的“有图就有真相”，使我们对网络谣言难辨真假。
如何防范
AI造谣
AI谣言已经成为亟需治理的一道网络新课题，那么在日常生活中，我们该如何擦亮眼睛，识别并抵制AI谣言呢？
克制好奇之心
面对新奇夸张的信息，先别急着一探究竟。AI造谣就是选择、抓取大家关注的话题来制造网络谣言，利用网民好奇心来进行传播。
核实不明来源
切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时，可以先进行核实或者等待官方消息发布后再做判断。
关注权威渠道
在上网浏览信息时要保持对信息来源的警惕性，多订阅官方媒体、政府部门的账号，尽量选择权威、可信赖的媒体或机构作为信息来源。
常用逻辑分析
要注意网络信息的逻辑性，如果发现一条信息在逻辑上存在明显的漏洞或矛盾，它很可能时经过篡改或杜撰的。
评论