「人类反馈强化学习」共找到 1976 篇相关文章
Anthropic CEO：人的幻觉比AI 更多！这是真的吗？
Anthropic公司CEO称AI幻觉比人类少，创业公司ColdIQ联合创始人Alex Vacca用虚构故事喂给ChatGPT、Claude和Gemini，测试它们识破谎言的能力，实验结果显示各模型表现不同，AI幻觉短期内难消失。
单Agent时代正式结束：一个干不过，就上300个
月之暗面发布并开源 Kimi K2.6 模型，热度高。它强化 Agent 团队协作能力，核心能力进步，领先对手。在编程领域发力，长程编码能力突破，集群协同输出强，还适配框架，实测效果出色，Claw 群组开启内测。
量子位专访楼天城：AI是匹脱缰野马，Harness是这个时代最关键的能力
量子位专访小马智行CTO楼天城，他认为AI如脱缰野马，Harness是关键能力。小马智行发布PonyWorld世界模型2.0，人类不再是中心，AI成总教练，能自我诊断和定向进化，还探讨了诸多自动驾驶及AI相关问题。
断崖第一！深度机智Z-WM再夺WorldArena冠军
2026年5月深度机智成立一周年，其Z - WM在WorldArena Track 2夺冠，领先30.5分。该公司围绕人类第一视角数据构建完整技术体系，其成果表明生成数据可用于具身智能模型训练，具身智能竞争重心正迁移。
Ilya重新定义AGI: 为什么ChatGPT离真正的AGI还很远
OpenAI前首席科学家Ilya在访谈中提出对AGI的新定义，还指出AI规模时代结束，未来拼想法和研究深度。他分析模型评测强但经济影响弱的原因，阐述人类价值函数作用，且SSI战略或调整。
AI教父Hinton末日警告！你必须失业，AI万亿泡沫豪赌才能「赢」
AI教父Hinton警告，这场AI万亿美元豪赌，只有裁员才能盈利。他指出超级智能AI将取代人类、引发失业，还批评部分巨头重商业竞争轻安全。此外，分析显示AI重创部分创意执行工作，不同岗位受影响程度有别。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
图灵奖得主杨立昆：中国人并不需要我们，他们自己就能想出非常好的点子
本文是对图灵奖得主杨立昆的访谈，他批判当前大语言模型局限性，指出难以靠扩大规模达人类水平AI。还强调理解世界需非生成式架构，如JEPA。同时以DeepSeek为例，称开源发展更快，中国人能想出好点子。
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
消费级具身智能跨越式新品：算力提升1000倍，对标英伟达Jetson Thor芯片，成本仅1/10！
蔚蓝科技发布新款机器狗 BabyAlpha A3，算力提升 1000 倍，对标英伟达 Jetson AGX Thor T5000 芯片，成本仅 1/10。它采用国产芯片，具身智能边缘端混合异构计算集群，感知超人类，实现全自主智能。