近日，在今日头条举办的2025年度平台治理媒体开放日上，今日头条内容治理运营负责人郑子龙介绍，AIGC（生成式人工智能）技术普及带来了内容生产便利，也催生了低质AIGC内容、虚假谣言批量传播等问题。
低质AIGC内容，是指由人工智能生成、存在影响阅读体验的行文瑕疵，或严重违反平台内容质量规范的内容。过去一年，今日头条聚焦网络诈骗、低质AIGC内容、虚假谣言、网络暴力、水军行为等8个领域开展治理实践。其中，低质AIGC内容治理是全年的工作重点和难点。
《今日头条2025年度平台治理白皮书》显示，今日头条平台全年累计打压超260万条低质AIGC内容，处置发布低质AIGC内容账号1.1万个。郑子龙介绍，在内容层面，该平台通过敏捷监控聚类发文和用户负评等方式，不断挖掘新的低质AIGC内容特征，持续迭代管控标准，并反哺模型训练增强对低质AIGC内容相关问题的识别与处置能力。在账号层面，对持续发布低质AIGC内容的作者进行打压甚至禁言处罚，同时通过发布治理公告，引导创作者自觉抵制低质AIGC内容，提升内容创作质量，共同维护健康的网络生态。
在AIGC内容打标方面，对于该平台内AI工具生产的内容，按照《网络安全技术人工智能生成合成内容标识方法》100%落实隐式元数据+显式标识，打标率100%；对于第三方用户上传的AIGC内容，平台每月读取含有元数据隐式标识内容并显式标注2000万条，标识补充率100%。该平台每月通过AI模型识别用户发布AIGC内容并打标4000万条以上，覆盖无主动声明场景，AI判定综合准确率大于95%。
郑子龙介绍，针对虚假谣言批量传播的问题，该平台搭建全链路处置体系，依托权威信源比对、大模型识别能力，实现1小时内存量谣言回扫清理。
中国社会科学院大学互联网法治研究中心主任刘晓春认为，低质AIGC内容治理需明确标准、技术赋能、多方协同。平台应完善AIGC内容标识与审核机制，强化技术检测与创作者引导，推动形成监管、平台、用户共治格局，从源头遏制虚假误导内容蔓延。
“AI生态治理离不开公众的参与，提高用户对于AI生态治理的认知对构建一个健康、多元、清朗的平台生态非常重要。”郑子龙表示。
责任编辑：王丹
