「红队测试」共找到 1851 篇相关文章
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
拒掉字节、谷歌橄榄枝，Meta 离职大佬田渊栋官宣自立门户！苏妈老黄追着投
Meta离职大佬田渊栋官宣创业，新公司Recursive Superintelligence首轮融资6.5亿美元，估值46.5亿美元。其团队堪称“硅谷AI梦之队”，想让AI具备“自我进化能力”，目标是扩展到多领域。
高盛怕了！Claude Mythos全球首个攻破企业网络，奥本海默时刻来了
英国AI安全研究所研究显示，Anthropic发布的Claude Mythos Preview模型在网络安全评估中表现惊人，能全自动、全自主完成企业网络攻击模拟。高盛为此加强网络防御，人类网络安全或进入奥本海默时刻。
探针伸进大模型黑箱，南加州大学华人团队打造AI记忆研究的深空望远镜
南加州大学 Robin Jia 教授团队借助英伟达算力，构建基于 Llama 3 架构的全开源受控大模型 Hubble，其成果将在 ICLR 2026 亮相。研究揭示大模型记忆机制效应，还评估了‘机器遗忘’技术，有法律应用潜力。
The Batch: 939 ｜在推理阶段学习长上下文
大型语言模型处理长上下文时通常准确性降低、速度变慢，研究人员提出TTT - E2E方法，通过推理时训练模型将上下文压缩到transformer权重中，还展示了其运作方式、测试结果等。
让思考更准更长！强化学习新算法FIPO来了
阿里通义实验室Qwen Pilot团队发布系列博客剖析大模型强化学习机制与局限，推出新算法FIPO。该算法引入Future - KL机制，解决‘推理长度停滞’问题，在多项测试表现优异，还介绍招聘信息。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
怎么做 Long-running Agents，Cursor、Anthropic 给了两种截然不同的思路
业界对让 Agent 长时间运行、执行复杂任务无共识。最近 Cursor 和 Anthropic 分享实践，思路不同。Cursor 用多 Agent 并行执行长时任务，Anthropic 解决单个 Agent 跨工作周期的记忆连续性问题。
Anthropic创始人盛赞Meta：开启广告基础设施「智能体进化」时代
Meta最新论文揭示基于树状思维链搜索的智能体框架，以“无人驾驶”方式重写广告系统底层内核，将内核开发时间从数周缩至数小时，生产环境性能最高提升17倍，Anthropic创始人高度评价。