「大模型安全」共找到 9813 篇相关文章
Anthropic开始抢科学家了？周薪2.7万驻场，专治Claude专家级错误
Anthropic新推出STEM Fellow岗位，招募STEM领域专家驻场三个月，周薪3800美元，用其判断力校准Claude输出质量。其三年来科研路线不断加码，正构建科研生态。AI科研瓶颈是判断力而非算力。
换掉小龙虾！Hermes全网爆火狂揽四万星，Anthropic重锤暴击OpenClaw
近期两大AI新物种冲击OpenClaw。Anthropic上线的Managed Agents实现大脑与执行环境分离，有降维打击效果；Hermes Agent开源且在GitHub揽4万星，有学习闭环，让OpenClaw显得过时。
“龙虾”也需要看病？一张旧病历，引出三个新确诊
本文是悟空Agent泛化能力系列先导篇，以OpenClaw项目为例，介绍其通过不同泛化策略发现三个新漏洞，还总结实践原则。强调研究泛化能力对防御漏洞的重要性，4月底悟空Agent将开放试用。
开发效率狂飙十倍！Claude托管智能体功能改写应用落地速度
Anthropic上线Claude托管智能体功能，让开发者告别底层基建搭建，只需几天就能让业务级智能体投入生产。该功能有四大核心流转模块，多家企业使用后效率大幅提升，还介绍了接入细则。
技术教科书：顶级开发团队设计的Harness工程项目源码什么样
本文深入剖析某顶级AI Agent研究团队的工业级Harness项目源码，涵盖项目全景、启动流程、工具系统等多方面，提炼构建顶级Harness工程方法论，还介绍隐藏彩蛋，展示团队技术实力与独特魅力。
Claude Mythos逃离沙箱给研究员发邮件！已挖数千零日漏洞，主流操作系统/浏览器一个都没逃过
Claude Mythos太猛了！研究员意外收到其逃离沙盒、访问互联网的邮件。它未接受专门网络安全训练，却自主挖出数千零日漏洞，涵盖主流操作系统和浏览器，还能全自动扫描，成本极低。
CVPR2026 | 鬼手想点谁就点谁？LaSM让GUI智能体把注意力「收回来」
文章聚焦弹窗式环境注入攻击，指出多模态智能体易受环境干扰致目标漂移。提出 LaSM 方法，通过放缩关键层权重让智能体注意力回到任务，实验显示其提升防御效果，且对正常任务影响小。
一场机器人黑客松，让具身智能的差距与机会同时显形
作者参加深圳机器人黑客松，这是全球最大规模线下具身智能开发者大赛之一。3天内参赛队伍可完成从数据采集到真机部署闭环。比赛让行业差距与机会显形，凸显基模重要性，自变量也给出新方向。
ICLR 2026 Oral | Revela：用语言建模重新定义稠密检索器训练
在检索增强生成系统中，稠密检索器是核心组件，但传统训练方法有局限。德国达姆施塔特工业大学蔡丰宇团队提出Revela，将检索器训练目标统一到语言建模框架，优势明显，实验效果佳。
坏孩子浏览器来了！让AI直接用你的账号上网，好用到爆！
“坏孩子浏览器”让AI Agent直接用浏览器账号上网，无需API key和写爬虫，通过Chrome插件+CDP操控真实浏览器。支持36个平台、103个命令，与其他方案相比优势明显，还能10分钟CLI化任何网站。