「语言模型安全」共找到 8423 篇相关文章
两个月连获两轮数亿元融资，深度机智以全栈自主路线加速国产物理AI基座模型落地｜甲子光年
物理AI是全球科技竞争焦点，深度机智率先定义‘人类学习’技术路线，成立一年全链路落地。近日完成数亿元融资，下轮融资收尾。其数据、模型、硬件成果显著，产品全落地，订单数千万元，团队强大，将推动国产物理AI普及。
Anthropic发最高警告：0day大爆发即将来临！全球巨头瞬间蒸发数十亿
Anthropic发布新模型预览版Claude Mythos Preview，它在测试中表现惊人，致网络安全巨头Cloudflare股价暴跌。这动摇了SaaS帝国根基，Anthropic启动计划发布生存指南，却遭顶级黑客质疑。
GPT-5.2破解数论猜想获陶哲轩认证！OpenAI副总裁曝大动作：正改模型核心设计，吊打90%研究生但难出颠覆性发现
OpenAI 发布由 GPT - 5.2 加持的科研平台 Prism 并免费开放。副总裁 Kevin Weil 称目前模型难有颠覆性发现，但能加速科研。GPT - 5 能力超 90% 研究生，OpenAI 将优化其设计，让它更谦逊并自我核查。
印奇这次要“从0重做”智驾模型！首谈阶跃和千里双公司布局：中国AI商业闭环要靠车跑出来
智能驾驶行业激战正酣，千里科技与阶跃星辰合作打造“原生智驾基座模型”。印奇首谈双公司布局，认为中国AI商业闭环要靠车跑出来。千里科技收入、利润双增，智驾装机规模将超百万辆，还布局Robotaxi和超级智能体。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
18K+标星！视觉AI驱动的浏览器自动化，告别XPath，无惧网页改版！
网页自动化常遇页面更新脚本报废等难题，而开源工具Skyvern不走传统XPath/DOM路子，用视觉+大语言模型理解网页，能自适应改版，功能丰富，安装运行简单。
想让机器人春晚包饺子？阿里达摩院：别急，先把「大脑」优化一下
阿里达摩院推出 RynnBrain 模型，从底层出发将时空记忆和物理空间推理训进模型，在 16 项具身 Benchmark 上达 SOTA。还开源 7 个模型，解决通用大模型在物理世界的局限，在多项任务表现出色。
Anthropic新模型杀疯了！成本直降 2/3、性能直逼GPT-5，用户实测：比“吹”的还强，速度超 Sonnet 3.5 倍
Anthropic发布Claude Haiku 4.5版本，成本降2/3、性能逼近GPT - 5，速度超Sonnet 3.5倍。该模型已全平台上线，可处理大文件，安全对齐性佳。它能与Sonnet协同，适用于企业与软件开发，Anthropic业务也在爆发式增长。
RL加持的3D生成时代来了！首个「R1 式」文本到3D推理大模型AR3D-R1登场
强化学习首次被系统性拓展到文本到3D生成领域，上海人工智能实验室等机构研究者提出首个强化学习增强的文本到3D自回归模型AR3D - R1，还提出Hi - GRPO范式和MME - 3DR基准，实验显示其性能优异。
Nature新研究：AI竟然分不清事实和信念
斯坦福大学团队在Nature发表研究，测试15个大模型，发现其区分事实、信念和知识存在严重缺陷。如处理第一人称信念准确率低，对语言线索依赖高，在高风险领域应用令人担忧。