「人类偏好对齐」共找到 1412 篇相关文章
AI 时代，编程语言选型更难也更重要：Go、Rust、Python、TypeScript 谁该上场？
AI 写码成常态，编程语言选择更重要。创业者 Armin Ronacher 指出语言权衡需重审，会影响 Agent 代码质量。他认为 Go 在 AI 场景合适，公司绕不开 Python 和 JavaScript。还分析多种语言特点、适用场景及 AI 对编程的影响。
知名机器人专家喊话：投人形机器人初创公司的数十亿美元，正在打水漂
知名机器人专家罗德尼・布鲁克斯质疑特斯拉、Figure等公司技术路线，称让机器人看人类视频学操作是‘空想’。他指出触觉数据无技术积累、安全有隐患，预测成功‘人形’机器人未来将大不同，投资难量产。
Claude Sonnet 4.5被炸出来了，依旧最强编程，连续30小时自主运行写代码
新发布的Claude Sonnet 4.5在SWE - bench等多项测试中成绩提升，能连续30小时自主写代码，还改善了对齐和安全性指标，且提质不加价。此外，Anthropic官宣Claude Agent SDK，发布Imagine with Claude功能。
RL Infra 行业全景：环境和 RLaaS 如何加速 RL 的 GPT-3 时刻
文章指出RL Scaling正推动AI从“人类数据时代”迈向“Agent体验时代”，RL Infra可弥合模拟与现实差距。梳理了RL环境、RLaaS、数据/评估三大模块，分析代表公司案例，探讨RL未来趋势与投资策略。
EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法：LightThinker
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理时产生大量中间步骤和文本，拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker，可动态压缩推理步骤，降低内存占用和计算成本。
逆天改命！OpenAI 开源模型的安全底裤被 Meta 研究员给扒掉了……
Cornell大学兼Meta研究员jack morris成功将OpenAI最新开源的推理专用模型GPT-OSS逆向还原成基础模型，绕过对齐和安全措施，还暴露其训练用大量版权材料问题，此成果引发社区激烈讨论。
一步步实战 CopilotKit（AG-UI协议）：生成式 UI 与集成 Human-in-the-Loop【下】
文章延续上篇Demo，探索CopilotKit在重要场景的应用，如基于Agent的生成式UI、HITL人类参与流程等。展示了相关实例操作步骤与前端效果，指出其为构建智能应用奠定基础，降低AI融合门槛。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
LeCun发布最新世界模型：首次实现16秒连贯场景预测，具身智能掌握第一视角！还打脸用了VAE
LeCun团队推出PEVA模型，让具身智能体学会人类“预判能力”，首次实现16秒连贯场景预测。它结合结构化动作表示与条件扩散Transformer，用真实数据训练，解决长时序问题，还能筛选最优动作。