搜索：人类意图对齐

「人类意图对齐」共找到 1449 篇相关文章

震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？

BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。

Anthropic的Claude设计负责人Jenny Wen在Lenny's Podcast中谈AI时代设计变革。她指出传统设计流程被工程速度倒逼走向尽头，还分享在AI实验室做设计的感受、Co - work开发故事等，给出招聘设计师的标准。

多所高校研究团队开发出PrimeNash大语言模型智能体框架，能自动推导纳什均衡闭式解析解并生成证明。它模拟人类科研路径，分三模块求解，经经典博弈验证，还在碳市场博弈展现应用潜力。

Sebastian 和 Nathan 在 Lex Fridman 播客中，用 4 小时深度解读 AI 现状，涵盖中美竞争、模型对比、规模定律、AGI 时间线等热门话题，还分享了入行建议、工作文化等多方面观点。

DeepSeek开源DeepSeek - OCR2，引入DeepEncoder V2视觉编码器，打破传统模型扫描限制，模仿人类视觉「因果流」逻辑。它解决了传统VLM忽略图像语义结构问题，在多项测试中表现出色，还验证了「LLM作为视觉编码器」可行性。

传言SpaceX明年将IPO，作者认为其正把‘先发优势’转为‘物理垄断’，将成‘人类未来天基基础设施的唯一垄断者’。它有极强运力成本优势，能抢占轨道和频谱资源，变现方式或为把GPU发上天。

文章从历史时间线出发，介绍AI诞生、发展历程，涉及细分技术模块。结合案例说明AI在不同阶段的应用，如早期机器翻译、垃圾邮件过滤。还探讨AI大模型、智能体等概念，分析调优方法和‘幻觉’问题，展望其未来前景。

机器人基础模型π*0.6刷屏，能让机器人高效完成多项任务。它引入Recap学习法，突破传统模仿模式。其核心方法RECAP让VLA用奖励反馈和人类介入训练，还能从异构数据学习，实现自我进化。

今年10月英伟达因出口管制退出中国市场，国产GPU厂商迎来「上市潮」。「国产GPU四小龙」燧原科技、壁仞科技、摩尔线程和沐曦股份受关注，本文梳理其投资情况，涉及早期伯乐、各方投资意图及上市前景等。

近年来，基于流匹配的VLA模型成机器人领域前沿技术，但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL，提出两种微调方案，在测试平台验证了有效性，目前代码等已开源。