“人工智能垃圾”是指利用生成式人工智能大量生产的低质量、冗余、缺乏认知价值的内容。它以技术效率渗透数字空间，形成数字文化的标志性综合症，为数字时代低质量内容管理提供重要参考样本。 “AI垃圾”作为数字内容生态系统中的“污染物”，不仅堵塞了优质信息传播渠道，也抹杀了内容生产的原创精神，侵蚀观众的信息识别能力和认知系统，威胁数字文化生态系统的健康发展。维护数字时代的信息质量、保障文化生态的健康发展，需要分析其生成机制、完善治理体系。 “人工智能流行病”的盛行是多种因素共同作用的产物，其中包括技术迭代变革生产、平台驱动的流量逻辑以及数据周期的迭代污染。其症结在于数字内容生产和传播过程中“效率优先”被“价值优先”取代所带来的异化。首先，技术门槛的降低导致创意异化。传统的内容创作需要知识积累、经验积累和创造性思维，而生成式人工智能则利用模式识别和概率采样进行“一键生成”，在几秒钟内生成结构完美、语法标准化的文本、图像和视频。这种技术上的便利很快转化为应用中“内容产业化”的逻辑，就是市场。一些创作者和机构将人工智能视为高效的“数字劳动力”。通过批量输入关键词、使用模板化调用界面、设置自动发布时间表，我们构建了一个不间断的、l-weather“AI垃圾”生产线。技术的效率效益被无限放大，而内容本身的真实性、原创性和深度却被忽视。本应具有创意价值的创意活动，却成为了流量变现的工具性行为。其次，注意力的流动在算法控制下变得异化。该平台的算法更关心更新频率和用户参与度，而不是内容的原创性或深度。他们倾向于优先考虑停留时间和交互数据。优质原创内容制作周期较长，成本较高，在争夺流量时处于劣势。另一方面，“AI垃圾”则利用其低成本、大功率的特点，快速填充信息渠道，挤压原创者的生存空间，收集流量背后的“注意力”资源。当用户反复被迫访问低质量的内容时，他们的审美观就会受到影响。IC能力和批判性思维将逐渐迟钝，进一步降低优质内容的需求弹性。以“国外山海经”等内容为例。当出于好奇而点击时，算法会不断生成类似荒唐、好奇的内容，这不仅让未成年人更容易上瘾，还会扭曲他们的认知系统，导致长期认知能力下降。第三，污染数据回流造成内容异化。生成式人工智能本质上是数据驱动的，其输出的质量直接取决于训练数据的纯度和多样性。当人工智能生成的大量低质量内容返回互联网并被新一代模型摄取作为训练语料库时，就会形成递归污染，吃垃圾并产生更多垃圾。基于概率论和统计论预测的大规模语言模型创造的“人工智能幻觉”模型代替真正的语义理解，将进一步加剧低质量内容的泛滥和泛滥，使数字内容生态系统陷入“庸俗化螺旋”，从而对社会产生影响。数字内容生态系统造成持续的危害并增加治理挑战。随着技术的发展，“AI浪潮”的形式很可能会继续从目前的文字、图像演变为视频和互动内容，同时治理难度也会增加。对此，迫切需要完善治理渠道，构建“法律保护、技术监管、平台问责、行为者赋能”多重协同治理框架，实现对“人工智能垃圾”的精准治理和源头控制。一是加强法律保障，强化治理权利，明确责任界限。加强法治引领推动人工智能健康发展，加快数字内容治理法律法规审查，将人工智能内容生成纳入法制轨道，明确“人工智能垃圾”范围，明确科技公司、平台和创作者的法律责任，针对低质量内容的大量生产和传播，制定严格的惩罚措施。鉴于人工智能技术的迭代性，有必要建立动态的监管协调机制，以快速响应新的治理问题，确保法律法规的及时性和充分性。考虑到跨境数字内容传播的性质，还需要加强国际治理合作，积极参与人工智能治理国际规则的制定，创建跨境人工智能内容治理合作机制。二是强化技术监管建立源头切断机制。帮助企业在模型设计阶段使用高质量的过滤工具，利用语义理解、事实核查等技术对人工智能生成的内容进行主动审核，并监控离开源头的低质量内容。从《人工智能生成合成内容标识办法》实施起，将依托区块链技术实现全周期可追溯，为用户审核识别提供依据。规范训练数据管理，严禁训练中掺入未经验证的低质量内容，阻断递归污染链。三是压实平台责任，重构流量分配机制。平台必须打破“流量专属论”，重建以内容价值为中心的流量分配机制，增加流量的偏向性加大对优质原创内容的收入和收入，同时建立基于人工智能的低质量内容快速识别和清理机制，并实施渐进式惩罚。为未成年观众设立专属审核屏障，防止认知能力下降。相关行业协会将牵头制定内容制作规范和道德准则，为人工智能创作设定边界。有必要明确这一点，推动平台和市场主体回归“价值至上”，形成平台治理与行业自律的合力。第四，赋能多组织，构建协同治理网络。加强公众媒介素养教育，多渠道传播人工智能识别知识，消除“人工智能数字鸿沟”，强化公众批判性思维，带动优质内容需求，形成供需优化的良性循环。便利公众出行建立举报奖励机制，调动公众参与积极性，通过政府、平台、行业、公众多维度合作完善治理模式。综上所述，数字内容的生态治理不是一维的技术管理，而是一个包含技术创新、平台运营、市场监管、公众素养等方面的系统工程。正是基于多元共治的理念，着力从法律保护、源头阻断信息系统、流程管理、需求导向等方面入手，就一定能够消除污染数字内容生态的“人工智能漩涡”，维护信息传输的质量和效率，为数字文化的健康发展奠定坚实的基础。 。 （作者为上海市委宣传部副部长）原标题：《控制‘AI旋风’刻不容缓，保护数字文化健康刻不容缓》 栏目编辑：王铎 文字编辑：王铎 标题及图片来源：上官图 图片编辑：曹丽媛 来源：作者：付新元
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由仅提供信息存储服务的社交媒体平台网易号用户上传并发布。
