「事实准确率」共找到 381 篇相关文章
OpenAI公开新的模型训练方法：或许能解决模型撒谎问题，已在GPT-5 thiking验证
OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
直播预约 | Evaluation论文分享@ICML&ACL2025
2025年6月11日20:00将直播分享Evaluation论文。多位嘉宾参与，涉及SyncPL奖励建模、文本事实一致性验证、大模型评测方法等多领域论文，涵盖模型优化、基准测试等内容。
造火箭的辞职去放牛，彼得·蒂尔花20亿美元押注一个AI牛项圈
彼得・蒂尔领投20亿美元融资给Halter公司的AI牛项圈。项圈能追踪牛的多项数据，有虚拟围栏功能。此外，何同学为粉丝做找牛系统，日本团队开发分析鸡情绪的AI系统。
LaPha：你的Agent轨迹其实嵌入在一个Poincaré球？
经典强化学习动作空间离散有限，但语言模型动作空间几乎无限。上海科学智能研究院联合复旦大学提出LaPha，将智能体行为树映射到潜空间，构造密集奖励、剪枝等，在基准测试中效果显著。
刚刚，DeepSeek开源OCR 2，首创Qwen编码的「双流架构」
年底 DeepSeek 开源新模型 DeepSeek - OCR 2，首创双流注意力架构，model&paper 一同发布。它重构视觉编码器，采用三阶段训练流程，在 OmniDocBench v1.5 评测及生产环境验证中表现良好。
拥抱大模型：深入剖析ReAct的核心原理、技术架构及其对AI领域的深远影响
文章深入剖析ReAct，它是普林斯顿大学和谷歌团队提出的智能体架构范式，将推理与行动协同，构建TAO闭环。介绍其原理、架构，指出解决传统AI难题，也存在局限，未来可与强化学习等融合。
一图胜千言被实现了！DeepSeek-OCR用图片压缩文本，10倍压缩率
DeepSeek开源DeepSeek - OCR，用图片压缩文本达10倍压缩率且几乎不丢信息。它解决了以往视觉编码器的问题，架构清晰，数据丰富，性能测试亮眼，为解决大模型‘记性差’问题提供新思路。
ICCV 25 Highlight | 扩散过程「早预警」实现6x加速，AIGC生图的高效后门防御
随着AIGC图像生成技术流行，后门攻击威胁开源社区，传统防御技术难适配。本文作者来自多所高校，提出输入级防御框架NaviT2I，基于神经元激活差异检测样本，加速检测，性能优。