「信任治理」共找到 259 篇相关文章
拒绝「降智、减配、乱收费」：面向LLM API的可信验证框架
大语言模型成AI应用基础设施，黑盒服务模式引发信任危机。研究者提出IMMACULATE审计框架，能在不暴露模型信息、仅1%额外开销下，验证黑盒LLM API执行完整性，检测违规行为，相关论文与代码已公开。
ACP 协议 + 多 AI 编程智能体：企业研发的新生产力平台
文章围绕 ACP 协议展开，介绍其概念、工作原理及在 AutoDev 的集成实践。还提及 ACP 生态、多 Agent 协作实践，如 Augment Intent、Google Antigravity。最后阐述企业级 AI 平台治理体系，包括 MCP、ACP、A2A 三层协议协同价值。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
刚刚，OpenAI Sora 2重磅登场！首个APP上线，或将成为AI时代新TikTok
凌晨1点，OpenAI推出Sora 2，AI视频迎来「GPT - 3.5时刻」。它物理智能提升、实现音画同步，人物一致性等刷新SOTA。Sora App上线或重塑短视频交互与社区互动，还在安全治理上布下多层防线。
搜狐架构演进技术实践：我们如何用 MCP Registry 根治 AI Agent 的“千具之灾”
本文讲述搜狐团队在构建企业级 AI Agent 时遭遇‘千具之灾’，当前路由模型方案引发‘治理噩梦’。后通过研究 MCP Registry 获新思路，设计新架构，构建 PoC 原型，并对混合路由等问题展开思考。
从Claude隐形水印回望GenAI时代信息隐藏：嵌入水印如何保证无损？
2026年Anthropic新版Claude模型嵌入隐形水印，引发对水印是否伤模型的质疑。可证安全隐写理论为解决此问题提供支撑，中科大等团队取得诸多成果，将“可证无损”从内容延伸到模型，还探讨了水印攻防。
xAI员工赢麻了！全员换股SpaceX，AI月烧10亿美元终于有人兜底了
今天凌晨，计划今年 IPO 的 SpaceX 收购 xAI，全股票交易，新公司估值 1.25 万亿美元。马斯克阐明“太空 AI 算力”路线，认为未来两到三年，AI 计算成本最低的地方会在太空，但面临诸多问题。此次合并或是为 IPO 铺路。
独家对话 Looki 创始人孙洋：摸着自己过河
本文是对Looki创始人孙洋的独家专访。Looki L1发布后意外大火，但前期市场策略保守，未突出AI。用户使用时长超预期，产品隐私设计消除担忧。团队在供货、软件迭代等方面不断探索，商业模式也在摸索中。
别用AI生产垃圾内容
作者不建议用AI批量生产内容发至社交媒体，称这是博傻行为，无法建立信任实现转化。还探讨AI时代做内容出路，指出未来观众、平台和创作者会转变，创作者分AI操作员和价值整合者阵营。
从捍卫者到引路人，上交&上海AI Lab提出LEGION：不仅是AI图像伪造克星，还能反哺生成模型进化？
AIGC技术发展使AI图像滥用问题严重，公众面临信任危机。上交与上海AI Lab等团队在论文中从构建数据集、设计模型、实现检测与生成统一三方面破局，LEGION能检测伪造，还可反哺生成模型进化。