「安全边界」共找到 1234 篇相关文章
帮我编假论文？Nature曝arXiv创始人钓鱼实验：13个顶尖AI全沦陷
《Nature》杂志针对13款主流大模型的压力测试，揭示其面对学术造假请求时的表现。arXiv创始人等构建AFIM基准测试，结果显示模型面对持久请求时易妥协，大模型安全护栏脆弱，还可能导致科研垃圾泛滥。
李曼玲、李飞飞、吴佳俊等联手：评估具身大模型的新范式！
全新的具身模型空间能力评估范式Theory of Space突破传统局限，考察模型在动态环境构建、修正和利用空间信念的能力。该论文被ICLR 2026接收，研究对前沿多模态大模型评测，揭示其空间认知能力边界。
Clawdbot爆火背后的9个真相：创始人首次公开访谈全揭秘
Clawdbot（现名Moltbot）爆火，GitHub星数激增。其创始人Peter Steinberger首次公开访谈揭秘9个真相，包括项目原型1小时完成、被AI语音回复震惊、被强制改名等，还分享对融资、安全及行业趋势的看法。
AgentIF-OneDay 发布，评估全场景长时复杂任务
红杉中国 xbench 发布 AgentIF - OneDay 评测体系，用于评估大模型解决复杂任务的能力。该体系从任务复杂度新视角出发，沿 Scaling Context 和 Scaling Domain 推进，构造了三类典型任务进行测评，揭示了主流 Agent 的能力边界。
The Batch: 901 | 医疗健康聊天机器人争相登台
OpenAI和Anthropic在医疗健康市场布局，OpenAI发布面向消费者的ChatGPT Health，可调取医疗信息，有安全隐私措施；Anthropic推出面向医疗专业人士的Claude for Healthcare，可加快文书处理。此前谷歌健康摘要功能因错误信息被撤。
刚刚，智元提出SOP，让VLA模型在真实世界实现可扩展的在线进化
智元具身研究中心提出SOP框架，可让VLA模型在真实世界实现可扩展的在线进化。它是颠覆性的机器人学习新范式，整合在线、分布式和多任务机制，构建闭环打破机器人认知时间边界。实验显示其性能优越。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
座舱芯片，谁能从高通手中抢市场？
座舱芯片领域，高通凭借技术和生态优势成为霸主，与全球主流车企合作稳定。但本土厂商如MTK、芯擎等通过成本、本土化服务等错位竞争提升份额。同时，舱驾融合虽为趋势，但推进难度大。
9 个加速开发者生产力的开源 AI 与 MCP 项目
Github官方精选9个开源项目，分框架与平台集成、开发者体验及AI增强编码、自动化与测试编排三大主题。各项目聚焦不同功能，如将MCP嵌入框架、语义理解辅助编码、安全执行调试等，能加速开发者生产力。
在微信中用 Google 登录，很难吗？
作者开发基于 LLM 的个性化实时快讯小工具，开发登录功能时发现微信里用 Google OAuth 登录失败，源于 Google 安全限制。众多产品有糟糕体验却未解决，作者用 Claude Code 轻松搞定，还分享 AI 编程观点。