目前多个收集平台已对AI生成内容众多问题的管理，如5月12日，小红书薯管家发布整治AI手艺的的通知布告，针对“操纵AI生成低俗猎奇视频”“AI生成虚拟外国长儿教育专家传授育儿内容”等各类违规内容加强排查清理力度。4月底，复旦成长研究院帮理研究员辛艳艳正在论文《AI快速成长激发的“消息污染”问题、存正在的风险现患及对策》中提出，一方面正在监管政策上，聚焦人工智能成长的具体场景进行政策迭代，规避风险。另一方面也要加强手艺反制，加强对人工智能问答模子的平安监管，此外，还要支撑专业机构取人工智能手艺的合做并加强对虚假消息的应急措置和反制机制。既要对公共突发事务、消息进行快速、消弭影响，避免回忆等环境呈现。
5月14日，某网坐发布的一份题目为《2024年中国煤炭行业合作款式及成长趋向预测演讲》的内容激发网友热议，该演讲售价为7600元人平易近币，网页预览的目次中写道：“煤炭（coal）出自《Minecraft》，是可再生资本，收成来自煤矿石及击杀凋谢骷髅获得1-3个，能够利用任何镐来挖取煤矿石。次要用处是做为燃料或制制火炬，有些村平易近能够以15个煤炭互换一个绿宝石。”。
这段目次内容明显取煤炭行业没有任何干系，这是逛戏《Minecraft》的逛戏道具“煤炭”的法则申明。该演讲正在社交平台激发热议，有网友质疑该行业演讲是AI生成的，AI间接整合了收集上“煤炭”相关的消息，因而逛戏中的道具“煤炭”的申明消息也被整合了进来。这段《Minecraft》中“煤炭”的法则申明来历也被玩家们找到了，来历于相关的百科词条。
记者扣问了该网坐的正在线客服，客服称这是收集呈现bug，目前网坐已进行了点窜，此前简直存正在这段内容，具体形成这个bug的缘由尚不清晰。当前相关目次预览消息已删除。
AI形成的人类消息污染问题已激发关心，一方面，AI捏合的虚假消息持久留存于收集空间，又成了新的消息来历，正在颠末多轮扩散后，虚假消息将会像滚雪球一样越来越大，用户绝难分辨寻找消息实正的泉源，另一方面，稠浊虚假消息、低质无效消息的AI生成内容占领收集空间对于收集生态的健康成长绝无好处，由不靠得住AI生成文章资讯遍及收集，涵盖、文化、文娱、科技、经济各个范畴，内容数不堪数。
