食堂用淋巴肉做包子致87名学生中毒?警方:系AI软件编造

封面新闻记者 苏定伟

为博流量,竟用Al生成谣言,福建宁德一名男子利用Al生成网文,谣传四川南充高坪区某中学食堂用淋巴肉做包子,导致87名学生中毒。3月21日,警方公布这起造谣案侦办过程。

3月18日,高坪公安接到辖区某中学报案,称网上出现“中学食堂用淋巴肉做包子,学生集体食物中毒”的谣言。接到报警后,高坪公安组织网安、龙门派出所等部门警力迅速介入,并前往发帖人所在地福建省宁德市进行调查。

经民警调查核实,此信息为虚假信息。为博眼球涨粉,3月17日,35岁男子林某某利用某AI软件,通过输入指令制作文案,合成“学生集体食物中毒”的信息。多次指令后,生成一条南充高坪区某中学食物中毒案信息,其中包含淋巴肉做包子,87名学生中毒,家长怒撕检测报告等博人眼球的情节。

警方查实,发帖男子林某某从未到过南充,整篇贴文全是Al在人工指令下自动生成。谣言在网上流传,造成不良社会影响。

造谣男子受审(高坪警方供图)

造谣男子受审(高坪警方供图)

目前,林某某已被警方行政处罚。

南充市公安局高坪区分局网安大队指导员寇德宝介绍,35岁的林某某是当地一家私人小额贷款公司业务员,收入不高,就想做自媒体,“养”个号挣钱。面对警察突然找上门来,林某某感到不解:我按网上的教程,用AI写了一篇文章发布出来,这也违法了?警察现场对他进行普法和教育,林某某才意识到,自己三五分钟创作的网文,居然给千里之外的南充某中学带来巨大的困扰。

为什么要虚构食堂用淋巴肉做包子、导致87名学生中毒的事件呢?林某某交代,这也是网上热点提醒他的,他输入淋巴肉、食堂、学生中毒等关键词,网络自动匹配了相应的图片,匹配了相应的学校,一篇绘声绘色的网文就出来了。AI自动生成后,林某某说他根本就没看具体内容,就立即在自己的社交账号上发布,直到警方找上门来,他才意识到自己触及法律的红线。

为提高自己账号文章浏览量,林某某还蹭了很多网络热点,或断章取义,或添油加醋,制造新的网络热点。

这起Al造谣案背后是一个人性化的执法故事。林某某家庭状况让人唏嘘不已,离婚后自己带着有点轻微脑瘫的5岁孩子,还有60多岁年迈的父母需要他供养。考虑到林某某的实际处境,警方对林某某的处罚由拘留改为罚款,但罚款需交到南充当地指定的银行,林某某写出申请,罚款由警方回到南充“代缴”。

记者手记

强制标识Al内容刻不容缓

Al是怎样收集网络信息并自动合成的呢?能否使用AI技术来监管AI使用?

值得注意的是,《人工智能生成合成内容标识办法》将从今年9月1日起施行,人工智能合成的内容将进行强制标识,方便大众识别并提高警惕性。明确Al技术使用的法律边界,鼓励将AI技术用于合法、健康的领域,推动技术创新与社会责任的平衡。

打开APP阅读更多精彩内容