3月下旬，一则“华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡”的消息被广泛传播。然而经核查，华山医院没有名为“张明远”的前院长，也没有同名员工。目前，编造该谣言的网络水军团伙被捣毁，3名犯罪嫌疑人已被上海静安警方依法采取刑事强制措施，相关违法账号被依法封禁。

从这起案件看，犯罪嫌疑人之所以要在网络谣言中设置“华山医院前院长”“客死他乡”等吸引眼球的关键词，就是为了制造冲突，消费公众的同情心，增加谣言的传播机会，博取更多的流量和关注度，以便后续通过直播带货等方式牟利。

犯罪嫌疑人在接受采访时承认，“根本不知道上海有一家华山医院”，也不知道有“张明远”这个人。这正是当下利用AI造谣的新特点：如果说此前人工炮制的谣言很容易露出马脚，那么如今在AI的加持下，即使犯罪嫌疑人并不掌握相关情况，也可以通过AI生成煞有介事的“故事”，达到以假乱真的效果。

更可怕的是，AI能极大提升虚假信息的“生产能力”。本案中的三个犯罪嫌疑人，给AI提供一些提示词，让其联网搜索相关信息后，再进行整合，可以每天发布1万条帖文。仅仅是这三人，通过4个大号、500多个小号，短短两个月就发布了30多万条垃圾信息。

显然，通过AI编造大量虚假、有害的劣质信息，加剧了“AI幻觉”，是“毒流量”，也是对网络环境的一种劣化。

目前，经过警方的教育，犯罪嫌疑人已经认识到，不应该胡编乱造或者夸大其词，编造发布虚假信息，感到“非常后悔”。他们将为自己的所作所为付出应有的代价，广大网络内容创作者也应该吸取教训，引以为戒。

尤其值得注意的是，三个犯罪嫌疑人此前在某知名女明星刚去世时，就曾用AI编造过内容，而且被平台提示、扣分。但他们还是“有侥幸心理”，因为相对AI批量生成的大量内容来说，他们被平台处罚的概率还是很低。

为应对生成式AI带来的影响，国家互联网信息办公室已经发布了《人工智能生成合成内容标识办法》，在《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规上，进一步细化了AI合成内容的标识。

但是，一些平台的提示还不够清晰，容易被忽略；一些平台“先发后审”，给假信息传播提供了时间窗口；一些平台无法识别AI作品，导致假新闻成为漏网之鱼。这就要求平台进一步加强审核，尽到主体责任。目前，上海公安机关和头部平台已经建立了畅通的工作联动机制，通过案件管理合作，及时通报掌握的问题。

算法必须向善，不能流量至上。今年以来，上海公安机关全力开展打击整治网络谣言专项行动，按照“以打开路、以打促治”思路重拳出击，全量清理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。

面对AI生成内容，公众也要保持理性和冷静，在阅读、转发之前，多一分思考，多一分求证。不让劣质信息充斥网络空间，全力营造清朗有序的网络环境，需要社会各方的共同努力。