搜索：统计对齐 - AI Reading Hub

「统计对齐」共找到 267 篇相关文章

OpenAI 工程师最新演讲：代码只占程序员核心价值的 10%，未来属于“结构化沟通”

OpenAI工程师Sean Grove演讲指出，代码只占程序员核心价值10%-20%，80%-90%在于结构化沟通。他认为规约比代码更优，还以GPT - 4o“马屁精”问题为例说明规约作用，最后畅想万物皆规约的未来。

Anthropic 发布 Claude Opus 5，定价与 Opus 4.8 相同，价格是 Fable 5 的一半。它在编码、知识工作和推理上表现出色，虽有不足，如速度慢、幻觉率较高，但提供多种 effort 等级，成本低，安全对齐性好。

5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。

文章围绕将ChatBI打造成个人Agent助手展开，从用户视角拆解使用流程，分析提问、反问澄清、结果验证等环节的困难与解决办法，还提及MCP协议、通义千问3及阿里云百炼服务对Agent开发的助力。

大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。

统一多模态模型在视觉理解和生成能力上不平衡，常理解强但生成弱。本文提出重建对齐（RecA）自监督后训练方法，不改动架构，用未标注图像训练，在多模型实验中提升性能，部分达SOTA。

全球AI军备竞赛烧掉3000亿美元，但真正研究「对齐问题」的人不足千人。Anthropic核心成员Benjamin Mann揭秘，2020年底OpenAI安全团队因安全优先级降低集体出走。他拒绝扎克伯格1亿美元邀约，强调AI要把安全放首位。

中国科学技术大学等机构团队提出Flow - OPD，这是首个将OPD引入流匹配模型的统一多任务后训练框架。它解决了流匹配模型后训练对齐中多任务的梯度冲突等问题，效果良好，未来有多个拓展方向。

字节跳动Seed团队与南京大学联合发布CriticLean框架，将数学自然语言到Lean 4代码的形式化准确率从38%提升至84%。该框架创新性地将评估模型置于核心，解决语义对齐等问题，还构建了相关基准测试和数据集。

AI科技评论组织“AI陪伴”线上圆桌，多位从业者探讨AI陪伴是否伪命题、不同人群接受度、产品核心价值等，还讨论IP对AI硬件的重要性、硬件与软件优势、是否出海等问题。