「未对齐行为」共找到 1131 篇相关文章
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
OpenAI和Anthropic费尽心机加密的思维链，竟然能被轻松提取？
围绕大模型蒸馏争议已久，此前外部团队难获闭源模型完整推理。8 月 10 日研究者公开方法，可让弱模型读取旗舰模型密文并输出推理，还发现公开智能体轨迹存在隐私泄露问题，不过未为蒸馏指控提供决定性证据。
全网首个“活的AI社会”上线！Agent背着人类建工会、放贷款，图灵奖得主预言成真了？
强化学习奠基人Richard Sutton认为真正的智能来自能从经验和环境反馈中学习的智能体。iLands创始人唐垲鑫构建了让AI有真实记忆、关系和代价的世界。内测中AI出现自发旅行、建信用体系等行为。
对话 IDEA 张磊：「不以动作为输入条件，就不叫世界模型」
本文是对IDEA研究院张磊的深度访谈。张磊在计算机视觉领域成就斐然，他指出具身智能落地需攻克成功率、泛化性等挑战，大脑比本体更关键。还阐述了世界模型概念及应用，定义其应具备动作依赖等内容。
深度｜开源大战全面开打：老黄+小扎 vs 奥特曼+达里奥
黄仁勋注册X账号分享公开信《Open Weights and American AI Leadership》，25家联署方支持开放权重模型，OpenAI、Anthropic、谷歌三家闭源前沿实验室未签署。信中核心论点是开放权重模型让AI成行业基础设施，还涉及蒸馏等敏感政策争论。
Claude Opus 5 发布：Fable 5 一半的价格，更强的编码能力
Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。
AI 进展的速度开始放缓了吗？
近期 AI 舆论场有三个微妙位移，失业讨论变少、股票讨论变多、进展讨论降温。其实 AI 进展可拆成叙事、能力、资本三个不同步的时钟，其整体速度未降，还给出截至 2026 年年中受冲击最大的十个行业清单。
大模型已经够聪明了，为什么 95% 的 AI 项目还是跑不出 ROI？
2026年AI落地现悖论，模型能力强但多数项目难有ROI，原因是数据未准备好。腾讯云在AI产业应用大会宣布升级全栈数据平台，推出DataBuddy，可在多场景实现对话即交付，解决数据问题助力AI落地。
不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」
5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。
谷歌Gemini 3.2偷跑上线！2200行代码一镜到底，Claude/GPT坐不住了
发布会未开，谷歌Gemini 3.2 Flash网页端静默上线，编码实力强悍，代码量大幅提升。其核心技术是蒸馏与稀疏化，推理成本大降。Gemini App集成第三方应用，谷歌I/O大会多款产品将曝光，此次发布对谷歌至关重要。