「AI模型安全」共找到 13877 篇相关文章
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。
英伟达发布并开源Alpamayo：自动驾驶终于开始讲道理了｜甲子光年
北京时间今天凌晨，英伟达在CES现场发布Alpamayo系列开源AI模型、仿真工具及数据集，旨在推动推理型自动驾驶汽车开发。其核心模型Alpamayo 1可展示决策逻辑，此次发布是英伟达在该领域开放程度最高的尝试。
DeepSeekV3.2技术报告还是老外看得细
ChatGPT三岁生日时，DeepSeek两款开源模型DeepSeek-V3.2和DeepSeek-V3.2-Speciale引发热议。它们在智能体评测中表现出色，缩小了开源与闭源模型差距，还降低了成本，给硅谷闭源AI公司带来压力。
2026 年做搜索就是做 Agent Memory
本文整理自Elastic全球副总裁肖涵演讲，讲述AI搜索发展历程，指出2026年做搜索基本是做智能体记忆。分析智能体记忆痛点、表征、遗忘等问题，介绍Jina AI相关模型，梳理记忆产品分类与工作流，给出行业观点与建议。
The Batch: 948 | GLM 5.1：面向长时任务的能力提升
Z.ai将旗舰开源权重大语言模型升级为GLM - 5.1，可在单个任务自主运行八小时。它专为编程和智能体任务设计，有推理等特性，在多榜单表现佳，但推理和数学能力落后闭源模型，价格有提升。
Claude 通过率不到 4%，SaaS-Bench 撕碎了 Computer-Use 的「全自动办公」幻想
UniPat AI用SaaS - Bench测试，让Agent在真实工作环境中执行任务。结果显示，Claude Opus 4.7端到端完全通过分数仅3.8%，多数模型表现差，还暴露Agent四种致命缺陷，揭示其与真实工作能力有巨大鸿沟。
OpenAI董事长Bret Taylor：2010 年的 SaaS 应用，就是 2030 年的智能体公司
OpenAI董事长Bret Taylor在对话中称，当下处于“加10倍速的互联网泡沫”时代，AI为初创公司带来挑战巨头的机会。他直言多数B2B公司“以客户为中心”是胡扯，还为AI创业者划红线，如应用公司预训练模型是烧钱。
Anthropic 突发 Sonnet 5，但大家更期待 Fable 5 和 Mythos 5 明天解禁
昨夜凌晨，Anthropic 突然推出 Claude Sonnet 5，自封“性价比之王”。它重点提升计划制定等能力，价格更低，安全性能提升，但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡，Anthropic 面临高端模型受阻和访问控制争议等问题。
AAAI 2026 Oral：明略科技开创稀疏数据「信息瓶颈动态压缩」，精度+速度双SOTA
在机器人和具身智能领域，transformer模型又大又‘重’，边缘设备难以承受。东南大学、中南大学、明略科技联合提出的CompTrack论文，创新性解决AI模型处理稀疏数据的‘双重冗余’，在3D点云跟踪任务上实现精度和速度双优。
姚顺雨对着唐杰杨植麟林俊旸贴大脸开讲！基模四杰中关村论英雄
清华发起AGI - Next前沿峰会，智谱唐杰、Kimi杨植麟、阿里林俊旸、姚顺雨等大咖齐聚。他们探讨AI发展方向，如唐杰认为Chat阶段结束，应走向做事；杨植麟强调做模型要创造世界观；林俊旸介绍千问进展，还讨论了路线分化、自主学习等话题。