「知识评估」共找到 1171 篇相关文章
这篇超有用！手把手教你搭建 AI 产品 Evals
文章指出AI下半场模型评估比训练更重要，做好Evals是当下AI产品开发刚需。介绍了Evals重要性、三种方法、通用评估标准等，还教你从零构建Evals及设计注意事项，助你快速上手评估。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
突破万次连续编辑极限！中科院提出首个理论保稳的知识保留方法
中科院信工所研究人员提出LyapLock，将连续编辑建模为受约束随机规划问题，整合排队论和李雅普诺夫优化。实验显示，它能突破万次连续编辑极限，编辑效果比主流方法提升11.89%，还可赋能现有模型。
通用模型无法完全理解用户，AI产品的下一站是上下文的战场｜对话AI知识助手remio
量子位智库对话remio创始人汪源，探讨其开发初衷、核心价值等。remio主打无感自动化，成用户第二大脑，有信息捕获、管理等功能，数据本地存保隐私。还聊了目标用户、指标、功能及应对竞争等。
The Batch: 952 | GPT-5.5 性能领先，但幻觉问题突出
OpenAI 最新旗舰模型 GPT-5.5 是闭源视觉 - 语言模型，在重要基准测试中表现领先，但在区分已知未知内容上有困难，幻觉问题突出，在主观评估中落后于对手。
CVPR2025 | 多模态LLM评测Tutorial
多模态大语言模型（MLLMs）研究热门，有效评估成关注焦点。CVPR2025将举办多模态LLM评测Tutorial，梳理评估基准，探讨评估方法，聚焦‘幻觉现象’，团队经验丰富，覆盖多板块内容。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。
OpenAI解释LLM为什么会有幻觉
OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。
Veo何止生成视频：DeepMind正在用它模拟整个机器人世界
通用型机器人策略发展带来挑战，传统评估方法有局限，前沿视频模型虽有潜力但面临困难。Google DeepMind团队提出基于Veo的机器人策略评估系统，经实验验证有效，展示了视频仿真评估的可行路径。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。