央视曝光 AI 造谣乱象

IT之家6月22日消息，央视新闻昨晚对目前网络上频现的“AI造谣”内容进行报道，并援引了公安部网安局发布的一起网络谣言典型案例，相应案例中嫌疑人使用AI生成一系列“华山医院前院长张明远因阑尾炎未得到及时救治客死他乡医院走廊”等抓人眼球的内容，并将相应内容公开发布于网络平台，引发关注。

上海市公安局静安分局网安支队民警表示，经查，华山医院根本没有名为“张明远”的前院长，也没有同名员工，发布相应谣言者也并非账号注册者本人，注册者是因为通过兼职把自己的账号注册完之后交给他人使用。

警方深入调查发现，所谓“华山医院前院长客死他乡”的不实信息是某自媒体工作室所发布，实际运营者为王某某、郭某某、石某某等3人。相应工作室控制了大概有500余个自媒体账号，每天在网络上查找各种热点事件和消息，利用AI自动生成文章，在未经核实的情况下就在自己控制的账号上发布，一共发布了约10余万条的不实信息，造成了恶劣社会影响。

IT之家参考通报获悉，目前王某某、郭某某、石某某等3人因涉嫌非法利用信息网络罪，被上海静安警方依法采取刑事强制措施，相关违法账号已被依法封禁，案件正在进一步侦办中。

央视网表示，随着近年来AI深度合成技术的快速发展和应用，网络上频繁出现AI造谣乱象，除了伪造新闻外，还有不法商家生成名人带货广告/视频等推销商品。目前国家网信办正对此进行专项打击，截至6月20日，相应打击行动第一阶段已经累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，各项工作取得积极进展。