AI造谣乱象被央视曝光，某自媒体账号因发布10万条虚假信息遭上海警方刑事强制措施，公安部网安局与国家网信办持续加大网络环境治理力度

随着科技的迅速发展，AI技术的应用日益广泛，但同时也带来了不少问题。近日，央视新闻对网络上频现的“AI造谣”现象进行了报道，并引用了公安部网安局发布的一起典型案例。案例中提到，嫌疑人利用AI生成了一条关于“华山医院前院长张明远因阑尾炎未及时救治去世在医院走廊”的虚假信息，并将其发布到网络平台，引发广泛关注。

经上海市公安局静安分局网安支队调查发现，华山医院并未有名为“张明远”的前院长，也无同名员工。同时，发布该谣言的账号并非注册者本人使用，而是通过兼职方式将账号交给他人操作。深入调查显示，这起不实信息是由某自媒体工作室发布，实际运营者为王某某、郭某某、石某某三人。该工作室控制了约500个自媒体账号，每天在网络上寻找热点事件和消息，利用AI自动生成文章并未经核实便发布，累计发布了10余万条虚假信息，造成了严重的社会影响。

目前，王某某、郭某某、石某某三人因涉嫌非法利用信息网络罪，已被上海静安警方依法采取刑事强制措施，相关违法账号也被依法封禁，案件正在进一步侦办中。

央视网指出，近年来，随着AI深度合成技术的快速发展和应用，网络上出现了大量AI造谣乱象。除了伪造新闻外，还有不法商家利用AI生成名人带货广告或视频进行商品推销。为此，国家网信办正开展专项打击行动。截至6月20日，第一阶段已累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，各项工作取得显著进展。

本文来源：