「AI模型测试」共找到 14123 篇相关文章
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
当 Claude 开始自己做增长，Anthropic 真正关心的是什么？
Anthropic面临模型迭代外的挑战，增长负责人Amol Avasare在访谈中披露公司战略。如应对‘Success Disasters’、降低产品使用门槛、优化引导流程等，还提及增长职能演进。
Google 把翻译能力彻底开源了！TranslateGemma：550种语言通吃，还能直接看图翻译！
Google将多年积累的翻译能力灌进开源大模型TranslateGemma，它基于Gemma 3，专为翻译任务调优，有3个规模版本，覆盖550种语言，能直接看图翻译，亮点颇多。
为什么你的 Agent 总是出故障？从算力基建到可信熔断的架构生死线 | 直播预告
本次直播集结值得买、商汤、明略三位技术专家，拆解可信 Agent 构建之道。将探讨大模型基础设施、可信 Agent 架构、MCP 协议实战等问题，还会解答观众提问。
上交博士最新思考：仅用两个问题讲清强化学习
上交博士 Kun Lei 博客提出用两个问题理解强化学习：数据从哪来、策略更新多频繁。借此梳理算法逻辑，还延伸到机器人基础模型，指出训练节奏与其实践契合。
深度｜Karpathy为何突然加入Anthropic，只能当Dario的「-2」？
5月19日，OpenAI联合创始人Andrej Karpathy宣布加入Anthropic预训练团队。他将组建新团队，用Claude加速预训练研究。文章分析了他加入的原因，以及Anthropic招聘他的动机，还指出这一变动标记着技术拐点。
Codex最被忽略的功能
Codex的侧边栏功能常被忽略，但实用性超强。侧边栏有文件、浏览器、终端三个选项，可配合Codex使用，让其成为工作系统一部分，将AI从聊天框推近工作现场。
一文总结飞书新品发布会 - 向Agent平台的跃迁。
飞书新品发布会对AI助手aliy和飞书妙搭全面迭代，向Agent原生平台迈进。飞书aily成常驻联系人的Agent，妙搭底层升级为Code Agent，还有多维表格Agent等新功能，提升工作效率。
ICLR 2026 Oral | 告别多步去噪！清华团队推出MVP，实现机器人动作单步极速生成
清华大学智能驾驶课题组 iDLab 与加州大学伯克利分校人工智能研究院 BAIR联合发表研究，提出 MVP 策略。它引入瞬时速度约束解决均值流学习问题，设计复合生成与选择机制，在多任务测试中表现出色。
手机上同步用 Claude Code 和 Codex，666啊~
开发者常遇AI编程任务运行时需离开电脑的困扰。开源项目`Happy`是Claude Code和Codex的移动端及Web客户端解决方案，有跨端控制、实时同步等功能，助开发者随时随地管理会话。