四川依法查处10起利用AI软件造谣典型案例
来源: “四川发布”微信公众号时间: 2024-07-24
近年来
随着人工智能技术(AI)的高速发展
一些不法分子
利用AI的文本和图像生成功能
编造虚假信息
使“AI类网络谣言”滋生扩散
破坏网络生态,扰乱社会秩序
今日
四川网警公布10起AI造谣典型案例
一起来看看
↓↓↓
案例一
利用AI软件编造“山体滑坡致8人遇难”网络谣言
2024年1月23日,有网民在某平台发布文章称:“云南山体滑坡灾害 已致8人遇难”。经查,违法行为人杨某某为获取流量牟利,搜集网络上的相关信息后,利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息,并发布在网络平台上,造成不良社会影响。目前,四川广元公安机关已依法对杨某某进行行政处罚。
案例二
利用AI软件编造“喜德县地震”网络谣言
2024年6月9日,有网民在某视频平台发布视频称,“5月27日,四川省凉山彝族自治州发生5.0级地震,震中位于喜德县,地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡,灾情严重”。经查,5月27日凉山发生5.0级地震,震中位于木里县,无人员伤亡,部分房屋受损,违法行为人罗某某为吸引眼球、获取流量,利用AI软件生成虚假地震灾情图片,并在某短视频平台散布不实信息。目前,四川凉山公安机关已依法对罗某某进行行政处罚。
案例三
利用AI软件编造“巴中警民对峙”网络谣言
2024年5月18日,有网民在某平台发布文章称:”巴中市最近上演了一场令人惊心动魄的事件,一辆运钞车遭到踢爆,警民双方展开了一场激烈的对峙”。经查,4月30日上午9时许,在四川巴中的一辆运钞车因在公交车站牌处占道停留,交警发现后请运钞车驶离。违法人员尚某某在网上获悉相关图片后,为吸引眼球,获取流量和利益,带着侥幸心理,在未经核实的情况下使用“AI千文”生成标题为《一场惊心动魄的"钞票大战"巴中市警民对峙引发轰动谁将成为胜利者》的虚假信息并发布,误导网民,引发社会恐慌,扰乱公共秩序。目前,四川巴中公安机关已依法对尚某某进行行政处罚。
案例四
利用AI软件编造“九旬老人遭儿女遗弃”网络谣言
2024年6月24日,有网民在某平台发布一则题为成都市新都区大丰街道“九旬老人遭儿女遗弃,流浪乞讨多年成‘皮包骨’”的文章。经查,文章中的图片来源于某外国博主救助外国流浪老人的视频,而文章中的这位“李老头”也远在大洋彼岸,违法行为人张某为了吸引流量、博取关注,在家中借助AI程序,结合自己的“所思所想”编造并发布了这篇虚假文章。目前,四川成都公安机关已依法对张某进行行政处罚。
案例五
利用AI软件编造“4月大女婴被遗弃”网络谣言
2024年1月12日,有网民在某平台发布文章称:“一则令人心痛的新闻在贵州省贵阳市花溪区传开,一个仅仅4个月大的女婴被遗弃在超市角落”。经查,违法行为人周某开发了可自动编撰文章的“翠绿笔墨”AI工具和配套管理系统,并招募志愿者创建工作群,要求志愿者提供平台账号,由其开发的管理系统代为登录账号,周某再利用AI工具自动生成相关文章,通过管理系统自动保存到志愿者平台账号的“草稿箱”中,通过工作群发布任务,由志愿者通过手机从“草稿箱”中手动发布,2023年11月以来,周某通过招募获取相关账号300余个(均已关停),利用AI工具编造信息约42万余条(均已清除)。目前,四川达州公安机关已依法对周某进行行政处罚。
案例六
利用AI编造“成都公交车失控”网络谣言
2023年11月20日,有网民在某平台发布文章称:“四川成都公交车失控冲入河中”。经查,违法行为人陈某看到“重庆公交车失控坠河10死2伤”的新闻后,为吸引眼球、博取流量,通过AI软件合成,将内容篡改为“成都龙泉驿公交车失控坠河10死2伤”后发布到互联网,产生不良社会影响。目前,四川成都公安机关已依法对陈某进行行政处罚。
案例七
利用AI软件编造“地下热管道破裂”网络谣言
2023年12月27日,有网民在某平台发布文章称:"西安市鄠邑区地下涌出热水、疑是地下热管道破裂引发”。经查,违法行为人王某、柳某为赚取平台奖励,利用AI软件自动生成“西安鄠邑区地下热管道破裂”的文章,并与河南省商丘网发布的“商丘一热管道破裂”图片进行嫁接,发布在网络平台上,引发大量网民关注,造成不良社会影响。目前,四川绵阳公安机关已依法对王某、柳某进行行政处罚。
案例八
利用AI编造“建筑工地事故”网络谣言
2023年11月28日,有网民在某平台发布文章称:“成都龙泉驿区一工地上,四名工人使用脚手架高空作业触碰高压线不幸身亡”。经查,违法行为人朱某在互联网看到“四川达州渠县使用脚手架高空作业触碰高压线造成四人死亡”的新闻后,为吸引眼球、博取流量,通过AI软件合成,将事故地点篡改为成都龙泉驿区后发布到互联网,产生不良社会影响。目前,四川成都公安机关已依法对朱某进行行政处罚。
案例九
利用AI软件编造“嫖娼突发心脏病死亡”网络谣言
2024年5月11日,有网民在某平台发布文章称:“凉山西昌有一男子因嫖娼突发心脏病死亡,其家属向两名卖淫女和宾馆老板寻求赔偿”。经查,违法行为人吉某某为吸引流量通过AI工具“智普清言”炮制该虚假文章并发布,造成不良影响。目前,四川凉山公安机关已依法对吉某某进行行政处罚。
案例十
利用AI软件编造“虚假横幅”网络谣言
2024年4月,有网民在某平台发布“成都市郫都区德源镇某某开发区奠基仪式”的视频。5月,该网民又发布一挂有“让全村都怀上二胎,是村支书不可推卸的责任”横幅的图片视频。经查,以上视频为AI编辑生成,均为不实信息。目前,四川成都公安机关已依法对王某进行行政处罚。