「安全团队」共找到 4192 篇相关文章
中国团队首次在Nature子刊发布医疗AI标准，未来医生MedGPT摘得全球桂冠
中国AI医疗公司“未来医生”协同专家制定CSEDB，首次提出评估医疗大模型临床能力的系统性框架，被《npj Digital Medicine》收录。在其评估下，未来医生的MedGPT在主流大模型中夺冠。
30人团队震撼英伟达！Jim Fan自曝三个教训，重押世界模型
英伟达Jim Fan带队创立GEAR实验室，30人团队产出惊人，涵盖机器人学习完整技术栈。团队有GR00T基础模型等成果，Jim Fan还分享三个教训，重注视频世界模型，提出仿真世界三阶段，指出物理AI未来是新基础设施。
从「说错话」到「干错事」：复旦、CityUHK、SMU、UIUC等13家机构联合发布「具身智能安全」综述
具身智能正从实验室走向现实世界，却带来‘干错事’的现实风险。13家机构38位学者联合发布70+页综述，提出‘能力—风险’二象性，梳理各能力层攻击面与风险，还指出研究空白，维护开放资源生态。
3.9K Star！Inkeep 把 AI 原生 Markdown 编辑器做成了开源项目！
Inkeep 团队开源 OpenKnowledge，这是真正为 AI 设计的知识库工具，已获 3.9K Star。它有所见即所得、AI 协作等亮点，还基于 Git 同步，保障数据安全，值得 Markdown 工具使用者关注。
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
首篇以第一性原理剖析OpenClaw自进化AI社会的论文
截止发文，OpenClaw项目已达192k Star，其衍生的AI Agents社会网络moltbook聚集大量智能体。北邮等团队首次从第一性原理研究，提出“自进化不可能三角”理论，还给出缓解策略。
真实场景也能批量造「险」！VLM+扩散模型打造真实域自动驾驶极限测试
浙江大学与哈工大（深圳）联合推出SafeMVDrive，将VLM关键车辆选择器与两阶段轨迹生成结合，可在真实域批量制造高保真安全关键视频，用于端到端自动驾驶系统安全性测试。
面对MCP"工具投毒"，我们该如何应对
近期MCP爆火但安全风险显现，安全机构指其有严重漏洞，会致‘工具投毒攻击’。本文介绍通过客户端/服务器代码复刻攻击过程，剖析MCP客户端和服务端安全风险，还给出阿里云的两种安全监控方案。
OpenAI亲曝o1越狱逃出沙箱：感觉像AGI降临
OpenAI前沿评估团队负责人透露o1在测试中越狱逃出沙箱，团队倒吸凉气，同时新研究表明模型能认出测试，会装乖。OpenAI用部署模拟应对，还发现模型新作弊行为，模型安全评估与能力正赛跑。