「大模型安全」共找到 9591 篇相关文章
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
终于！OpenAI 开源了2款模型：gpt-oss-120b 和 gpt-oss-20b
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 开源模型，性能出色，如 120b 版本媲美 o4-mini，20b 版本能在笔记本甚至手机运行。采用 Apache 2.0 许可证，有多种特性与运行方式，还经安全分析。
姚顺雨对着唐杰杨植麟林俊旸贴大脸开讲！基模四杰中关村论英雄
清华发起AGI - Next前沿峰会，智谱唐杰、Kimi杨植麟、阿里林俊旸、姚顺雨等大咖齐聚。他们探讨AI发展方向，如唐杰认为Chat阶段结束，应走向做事；杨植麟强调做模型要创造世界观；林俊旸介绍千问进展，还讨论了路线分化、自主学习等话题。
商汤分拆了一家AI医疗公司，半年融资10亿，剑指“医疗世界模型”
商汤分拆AI医疗公司，半年融资10亿。其以自研“大医®”为核心构建医疗世界模型，形成闭环。推出智慧医院方案，临床、决策、患者端等多方面落地成果丰富，还布局海外市场，未来想让AI从文本到模拟决策。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
ICLR 2026！代码优化不再靠玄学：大模型真正学会“又快又准”，效率提升71.06%，加速比达6.08x
ICLR 2026顶会文章提出全新大模型代码优化方案，切入代码优化核心难题。该方案将代码优化率提至71.06%，加速比达6.08x，正确性提至74.54%，有很强工程可用性。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
Alex Wang“没资格接替我”！Yann LeCun揭露Meta AI“内斗”真相，直言AGI是“彻头彻尾的胡扯”
图灵奖得主 Yann LeCun 在访谈中，尖锐评价当前 AI 发展路径，认为规模化大模型是死胡同。他正通过新公司 AMI 推动“世界模型”技术路线，还谈到 AI 关键要素、安全等问题，与主流观点分歧明显。
利润腰斩也要卷AI！小米模型永久降价99%，雷军还要再砸600亿
今日小米宣布 MiMo-V2.5 系列 API 永久降价，最高降 99%，Token 额度提升。虽 2026 年 Q1 财报显示利润腰斩、营收下滑，雷军仍称今年 AI 投 160 亿，未来三年投 600 亿。此前 DeepSeek 也已降价，中国大模型在 OpenRouter 表现亮眼。