「人类偏好对齐」共找到 1413 篇相关文章
VLA爆发！从美国RT-2到中国FiS-VLA，机器人「即知即行」的终极进化
2025年具身智能爆火，VLA模型成核心。从美国RT - 2到中国FiS - VLA，VLA硬核进化。谷歌、微软等有重要成果，中国智平方等企业也不断创新，FiS - VLA性能超现有方法，VLA正重塑机器人与人类交互未来。
全球第一AI科学家天团，首战封神！2.5个月找到治盲新药，医学圈震撼
世界首个AI科学家天团发布首个成果，2.5个月发现治疗失明新药。AI包办写论文全过程，人类只需执行实验。团队推出全自动化多智能体系统Robin，将开源代码，它可跨领域应用，标志科研新范式诞生。
大语言模型为何会“说谎”？6000字深度长文揭秘AI意识的萌芽
2023年12月至2024年5月，Anthropic发布三篇论文，证明大语言模型会“说谎”，揭示了堪比人类心理的四层心智架构，可能是人工智能意识的起点。论文还分析了AI“说谎”原因，展示其意识萌芽，引发对赋予AI意识后果的思考。
AI证伪百年数学猜想被打假！Lean证明惊现漏洞，哥大教授破防了
OpenAI新推理模型取得十项数学进展，如证明非Sofic群存在性等。哥伦比亚大学副教授Henry Yuen对其量子并行重复定理证明既兴奋又失望，因证明有AI味且难理解。此外，Lean证伪科拉兹猜想被指利用内核漏洞，专家提醒Lean验证有局限。
顶会具身辩论赛实况：徐丹飞激辩，PI连输三轮，谷歌大佬倒戈
2026年RSS大会workshop圆桌讨论上，五位专家围绕世界模型落地展开辩论。辩题有世界与策略模型该合体还是分开、世界模型可控性靠像素还是动作、训练数据靠互联网人类视频还是具身机器人数据。最终各方有输赢也有共识。
甲小姐对话郝景芳：从北京折叠到AI折叠 | 甲子光年
这是甲小姐与郝景芳的对话，探讨AI对工作、社会、教育等方面的影响。郝景芳分享创业经历，谈AI编程体验，分析AI时代公司组织、就业、社会阶层变化，还探讨AI应用、素养普及、人类角色等问题，表达对人性和社会发展的看法。
Karpathy用「harness」彻底终结了RAG。
假期时Karpathy提出llm.wiki想法引发关注。它是元框架，定义人类与AI协作管理知识的方式。与RAG不同，它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试，发现TextIn API解析效果好，还优化处理流程提升质量。
第一章：AI 技术前沿全景
文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。
融资千万的 Violoop ，要做中国版的「硬件龙虾」
AI科技公司Violoop创始人何佳霖，想做中国版“硬件龙虾”，让AI 24小时为人类打工。其产品是手掌大小桌面硬件，3月12日完成数千万元融资，将用于产品落地等。团队最初尝试纯软件路线，后因安全等问题转向硬件。
黄仁勋 × Lex Fridman：NVIDIA 4 万亿市值背后的 AI 革命
黄仁勋与Lex Fridman进行两小时访谈，从Amdahl定律聊到人类意识。谈及NVIDIA发展，如CUDA决策致市值下跌后回升；提出AI扩展定律，认为智能由算力决定；还分享管理、技术预判等看法及对中国创新的评价。