「安全缺陷」共找到 1086 篇相关文章
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
谢赛宁×李飞飞×LeCun首次联手！寒武纪-S「空间超感知」AI震撼登场
Yann LeCun、李飞飞和谢赛宁联手发布论文「Cambrian - S：迈向视频中的空间超感知」。他们认为LLM虽能力强，但无法像人类一样感知世界，为此构建Cambrian - S系列模型，开源相关数据和模型，还开发了新原型。
Jina官方MCP三板斧：搜、读、筛
Jina官方发布MCP服务器，将核心能力封装成LLM工具集。介绍工具功能、连接使用方法，给出问题排查方案，通过案例展示搭建工作流效果，评估不同模型，指出Agent瓶颈及MCP开放生态价值。
吴恩达：自动化测试在 AI 编程时代将变得极其重要
吴恩达分享团队用AI编程助手的经历，如Agent删代码。他认为AI辅助编程时代，自动化测试愈发重要，智能体测试能发挥作用，还强调优先测试基础设施代码，后端测试更关键。
LangChain 推出开源异步编码智能体 Open SWE
LangChain发布开源异步编码智能体Open SWE，可在云端处理复杂开发任务，能集成到开发者工作流。它连接GitHub仓库，在沙箱运行，强调人在回路控制，多智能体架构保障代码质量，早期反应褒贬不一。
软件正在发生根本变化：Andrej Karpathy 旧金山 AI创业学院演讲万字实录
Andrej Karpathy在旧金山Y Combinator AI创业学院演讲，指出软件正进入“软件3.0”时代，大语言模型（LLM）是新型计算机，能用英语编程。他探讨了LLM特性、生态，以及如何利用其构建部分自治产品等。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
AI无师自通，搞定所有家务！π0.5突破泛化极限，UC伯克利系出品
具身智能最大挑战是泛化能力，美国具身智能公司Physical Intelligence推出π0.5 VLA模型，通过异构任务协同训练实现泛化，可在全新家中执行各种家务，虽有不足但向广泛泛化物理智能迈进。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。