今年3月
一条“上海华山医院前院长张明远
因阑尾炎未得到及时救治
病死异国他乡”的信息
在互联网上热传
经核实,该消息为谣言
华山医院没有
名为“张明远”的前院长
也没有同名员工
当时,警方通过侦查发现,这是某自媒体工作室利用AI工具编造网络谣言。

今天,记者从上海市公安局获悉
编造该谣言的网络水军团伙被捣毁
这则信息的源头为
外省市的自媒体发布者
王某、郭某、石某等三人
3名犯罪嫌疑人
已被静安警方依法采取刑事强制措施
相关违法账号被依法封禁
据三人交代,他们在自媒体账号发文,每1万次阅读,就能从平台获利5元。为了跑量,他们设置社会热点、明星绯闻、爆款推荐等关键词策略,引导AI软件自动生成并发布不实贴文,再通过他们控制的500多个自媒体账号进行发布。

上海市公安局静安分局
网安支队民警 程海岳:
今年2月3人成立工作室,通过500余个账户,共计发布30余万条贴文,一共获利4万余元。

3人日均1万条的写作、发布
全靠租用的AI第三方接口
不仅自己没看过
这条“客死他国”发文的具体内容
甚至不知道上海有家华山医院
更不知道“张明远”是谁

王某 犯罪嫌疑人:
大概的发布过程就是
从有一个自媒体库,去采集别人发布过的内容;
按照TOP排行榜、阅读的TOP去采集;
采集之后放在这个软件上,让它去帮我们批量地改写;
改写完以后我们就直接去发布。
警方介绍,医生病死异国他乡这个故事的原始模板很早以前就在互联网上流传了,而王某等人通过AI软件对这个故事进行了改写时,给出了“提高阅读量”的附加条件,为了匹配这个要求,于是AI在写作时自行加入了“流量密码”。
上海市公安局
网安总队三队队长 符斌 :
华山医院和所谓的张明远医生,这个全是AI自动生成的一些内容。但这个内容生成之后,作为账号的控制人和发布者,他没有对内容进行审核。
所有对AI生成的内容,我们要合规使用,要认真地依法依规进行审核,每一个发布者对自己发布的内容都必须承担相应的责任,而不是自动生成之后一发了之,造成整个网上环境和信息的劣化,造成了不实信息和谣言的泛滥。


目前,王某等3人因涉嫌非法利用信息网络罪已被采取刑事强制措施,相关违法账号被依法封禁,案件正在进一步侦办中。
上海警方提示:
互联网不是法外之地,利用AI工具编造网络谣言,涉嫌违法犯罪。对此,警方将坚决依法严厉打击,持续加强网络生态治理,全力营造清朗有序的网络环境。