「未对齐行为」共找到 1168 篇相关文章
开源不到一天1.9k星星！NVIDIA新突破，机器人ChatGPT时刻！
NVIDIA开源ProtoMotions3框架，用经典自回归预测和物理仿真，让高级行为涌现。它能助力机器人多方面学习，有望降低人形机器人开发门槛，虽处研究阶段，但提出新思路。
Cloudflare 推出 Meerkat，实现全球强一致性协调
Cloudflare推出基于QuePaxa共识算法的Meerkat服务，可无领导者写入并保持强一致性，提升网络可用性。虽有往返通信代价且非通用数据系统，但优化对强一致性系统重要，还未投入生产。
Gemini CLI 重磅更新：现已支持音视频处理，并带来多项体验升级
Gemini CLI 迎来重磅更新，带来多项改进。新增音视频输入（暂未正式开启）、增强 Markdown 功能，集成 VSCodium 和 Neovim，技术栈升级至 Ink 6 和 React 19，还有主题更新、隐私管理等优化。
为了活到120岁，硅谷富豪们正在把自己变成小白鼠
硅谷富豪为活到120岁，用‘生物黑客’手段抗衰，如服雷帕霉素、尝试血浆疗法等。科研人员警告，这些技术未临床测试，效果和安全性未知。同时，长寿科技成资本热门，不同公司有不同路径。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
Anthropic 最强模型 Mythos 发布了，但你暂时用不上
4月7日，Anthropic公布全新前沿模型Claude Mythos Preview，但未开放给公众，而是用于网络安全防御项目Project Glasswing。该模型安全能力强大，能发现大量零日漏洞并编写攻击代码，普通用户短期内难用上。
来自 Manus 的一手分享：如何构建 AI Agent 的上下文工程？
Manus 公司联合创始人季逸超分享为 Manus 搭建上下文工程的经验。文章探讨构建 AI 智能体时的关键抉择，给出围绕 KV - Cache 设计、通过掩码约束行为等构建原则，助开发者少走弯路。
卡帕西删除Anthropic简介，入职68天疑似已离职
网友发现大神Andrej Karpathy修改X个人简介，删除Anthropic相关工作信息，离职传闻发酵。卡帕西加入Anthropic 68天风波不断，恰逢黄仁勋发起“开放权重联盟”，Anthropic未签署，让离职猜测更甚。
王阳明心学，被Anthropic用来教Claude做人了
UT Austin哲学教授Harvey Lederman研究王阳明心学十年，现加入Anthropic做Claude对齐训练。他用分析哲学拆解“知行合一”，发现AI模型存在“信念冲突”，Anthropic用类似阳明心学方法解决问题。如今硅谷AI公司争抢哲学家。
「熟悉的陌生人」才是「好老师」？复旦提出简单指标，找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法，综合考虑样本信息量与对齐程度，在蒸馏实验中与学生模型后训练性能相关性高，可用于筛选推理轨迹和选择教师模型。