「内容治理」共找到 951 篇相关文章
海淀105款大模型背后：看这些AI玩家如何抢占内容生产制高点
在北京海淀文化沙龙上，大家探讨AI如何重塑内容生产。海淀有105款备案大模型，占全国五分之一。快手可灵月入超1亿，AI音乐大模型让创作大众化，投资人捕捉到AIGC创业潮，新的内容生产秩序正被改写。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
ChatGPT 要发“成人版”，将放松内容限制
网络吐槽ChatGPT机械保守，OpenAI CEO Sam Altman透露，未来几周将推新版本允许更人性化对话，12月成年用户可访问含情色内容功能。此前限制过严，现技术改进可放松限制，用户反应不一。
谷歌 Apigee 添加了内置的 LLM 治理 Model Armor
谷歌云推出 Model Armor 公开预览版，这是集成到 Apigee API 管理平台的 LLM 治理框架。它能执行特定策略，检测多种风险，支持多 LLM 提供商，还与 GKE 和 Security Command Center 集成。
ChatGPT开始预测用户年龄，NSFW内容要来了！
OpenAI于1月20日更新推出年龄预测功能，通过分析用户多方面信息判断是否为18岁以下。网友测试发现猜测较准，这或使NSFW内容限制放宽，不同模型版本情况有别，更新还改进语音和记忆功能。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
AI 推理精细化流量治理实战：RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流，传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic，其精细化流量治理方案能实现‘千人千面’，解决队列头部阻塞和并发效率受损问题，还与阿里云百炼网关合作。
SIGGRAPH Asia 2025 | OmniPart框架，让3D内容创作像拼搭积木一样简单
香港大学等机构研究者推出OmniPart框架，解决3D内容创作难题，已被SIGGRAPH Asia 2025接收。它将生成任务解耦为两阶段，保证部件独立又能完美组合，质量和效率超现有方法，应用潜力大。
比NotebookLM更好的「开源播客」，可根据多模态内容生成30分钟以上播客音频。
Podcastfy是开源Python工具，能把文本、图片等多模态内容，借生成式AI转化为播客。它支持自定义，适配多种语言和文本转语音模型，能生成2 - 5分钟或30分钟以上的播客，使用体验比NotebookLM好。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。