「大模型安全评测」共找到 8449 篇相关文章
Soul App 又放大招！把 42000 小时数据喂出的“歌神” SoulX-Singer 开源了！
语音合成近年爆发式增长，开源领域也有强大音乐模型。Soul APP联合多机构开源的SoulX - Singer，喂了42000小时数据，主打零样本歌声合成，支持双控制方式，多语言与跨语言能力强，架构先进，评测表现优。
对谈 DeepSeek-Prover 核心作者辛华剑：Multi Agent 天然适合形式化数学 ｜Best Minds
文章是对 DeepSeek-Prover 核心作者辛华剑的访谈。他认为强化学习是 AGI 关键解法，Multi Agent 适合形式化数学。还探讨了 DeepSeek Prover 进展、数学与 AGI 关系、评测基准等，指出未来有全才模型和自主 Agent 出现。
为什么AI总是"记错"你？我们造了一个"合成人生"来测试
现有AI记忆评测只记'事'不记'人'，存在数据源窄、不重理解、注入成本高的问题。QuantaAlpha联合高校团队提出CloneMem基准测试，用'数字痕迹'评估AI Clone长期记忆能力，实验有反直觉结论并给出设计启示。
本地该怎么做RSI？我们与StartLux CTO聊了聊
菲尔兹奖得主联名信引发AI数学研究争议，前沿研究开始防备云端AI，但本地AI能力不足。本文专访StartLux CTO郭权玮，深度讨论本地RSI实践路径，披露Auto Research方法、实验数据与安全方案，介绍本地模型研发进展。
具身智能机器人年度总结，来自英伟达机器人主管
英伟达机器人主管Jim Fan在2025年末判断机器人领域仍处蛮荒时代。他指出该领域缺乏统一评测体系，硬件进展快但可靠性不足限制软件迭代，VLM→VLA技术范式有问题，还分享了数据、模型等方面情况。
《生成式AI卓越架构设计指导原则》：从"能用AI"到"用好AI"
在2025云栖大会上，阿里云发布《生成式AI卓越架构设计指导原则》，以云原生“卓越架构五大支柱”为基础，针对大模型内容合规与安全治理等领域提建议，助力企业从‘能用AI’走向‘用好AI’。
VL-LN Bench：模拟「边走边问找具体目标」的真实导航场景
上海人工智能实验室等研究者完成VL - LN Bench，模拟真实导航场景。它构建自动化数据收集管线，依托InternVLA - N1训练评测。结果显示主动对话可提升表现，但当前方法在实例感知对齐等环节有短板。
我给阶跃星辰 Step 5 Preview 出了一道工程题
本文作者池建强参与阶跃星辰新一代旗舰大模型Step 5 Preview小范围内测，设置带两层bug和隐藏需求的编码工程题，与Qwen 3.8 Max、Kimi K3对比测试，分享实际项目使用体验，给出客观评测。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
Anthropic 完成930亿元 F 轮融资，投后估值达 13096亿
Anthropic 宣布完成由 ICONIQ 领投的 130 亿美元 F 轮融资，投后估值达 1830 亿美元。众多顶级投资机构参与，自推出 Claude 模型后增长飞速，业务覆盖多领域，资金将用于扩产、安全研究和国际化。