「人类偏好对齐」共找到 1411 篇相关文章
10%训练数据超越100%表现，机器人学习领域迎来重要突破
密歇根大学和瑞典皇家理工学院团队提出 ViSA - Flow 框架，能从人类视频提取语义动作流，提升机器人数据稀缺时学习效率。在 CALVIN 测试中，用 10% 训练数据超越 100% 数据方法，有技术优势也存在局限。
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
13 年苦熬到 170 亿市值，一夜间被用户抛弃！一封“AI吹”全员信让网友“不喷不行”
Duolingo是热门教育应用，市值约170亿美元。其CEO发“AI优先”全员信引发网友不满，公司曾依赖人类创作者，后用AI生成内容问题频出，还试图用搞笑视频化解危机，却未奏效。
GPT-6突破「素数间隔」纪录！这次是加入OpenAI的北大数院07级校友
OpenAI总裁宣布进入AGI时代，GPT - 6 Astra虽仅向少量组织开放，但引发大量讨论。北大数院校友苏炜杰宣布其将素数间隔上界从246推进至186，完成Lean验证。多家机构围绕此问题研究，AI或成数学研究伙伴。
Facet-0：NTU王子为团队让机器人在精密装配中「看得懂、插得准、出错能恢复」
新加坡南洋理工大学PINE Lab团队研发Facet - 0机器人基础模型，用于精密装配。它在五项计算机装配任务中平均成功率达82%，能让机器人理解接触状态、判断对错并改进。通过多阶段训练，降低人工干预率，提高失败恢复率。
黄仁勋李飞飞林斌投了同一家机器人公司
Generalist是专注给机器人“造通用大脑”的AI公司，创立不久便多次融资，估值超20亿美元。其GEN - 1.5有强大泛化能力，演示一次就能上手，但也有很大进步空间，展示了未来通用机器人大脑学习方式。
IJCAI 研究卓越奖得主 Nick Jennings：一个智能体的聪明，不如一群智能体的相遇｜IJCAI 2026
8月18日，IJCAI 2026大会上，研究卓越奖得主Nick Jennings回顾智能体发展历程，指出当下智能体AI火热，它并非新概念，而是经数十年积累。还分享经验，展望从智能体到智能社会的未来。
1w颗星！本地化视频翻译配音工具！
KrillinAI是多功能音视频本地化与增强方案，面向人类用户和AI Agent。它功能全，覆盖视频处理完整链路；特点多，支持CLI调用等；还兼容多种语音识别、大语言模型和TTS服务，可Docker部署。
马斯克宣判代码死刑！AI直出二进制，行业教父集体回怼
马斯克在X上称代码正变成下一个汇编，要让AI直接生成二进制，摒弃“源代码”。此言论引发争议，UML之父、《代码整洁之道》作者等教父级人物纷纷回怼，而现实中AI生成代码已成趋势。
黄仁勋：Prompt正在过时，Loop才是新范式
黄仁勋称Prompt正在过时，Loop才是新范式。Loop指设计系统让AI自动下指令、验收，不合格重来。Claude Code和OpenAI Codex已围绕Loop落地产品，还给出了实操指南及发展历程。