「反馈对齐」共找到 466 篇相关文章
深度解读《AI 智能体的上下文工程》：构建高效 Agent 的七个宝贵教训
作者解读 Manus 团队文章，结合自身理解总结出构建高效 Agent 的 7 个关键点，如依赖上下文工程、提升 Prompt 缓存命中率等，还给出总结与核心启示，对 Agent 开发有借鉴意义。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
机器人为什么要拟人？终于有人正确回答了
今年6月，英伟达发布Isaac GR00T人形机器人参考平台，深度机智发布论文Human - as - Humanoid。具身智能瓶颈是数据，深度机智以人类学习范式破局，完成全栈技术闭环，领先优势扩大。
Anthropic深夜连放两弹：Sonnet 5、全新AI科研App重磅上线
Anthropic 深夜发布两个重磅更新：Claude Sonnet 5和面向科研人员的AI工作台Claude Science。Sonnet 5性能接近Opus 4.8，提升Agent能力且价格低；Claude Science整合科研工具，支持复现产出、自动管理算力、多学科查询。
AI Native的组织架构应该是怎么样的？Block CEO：每家公司都可以压缩成一个agent
Block CEO Jack Dorsey 认为传统公司层级制度在 AI 时代已无必要，AI 可承担协调等功能。Block 以 AI 为中心重建公司，构建两个世界模型，搭建四层架构，裁员 40%，重新定义人员角色和 CEO 工作。
中山大学梁小丹团队论文：让视频生成从「看起来真实」到「物理上正确」丨CVPR 2026
中山大学梁小丹团队提出《ProPhy: Progressive Physical Alignment for Dynamic World Simulation》，通过分层建模和逐步对齐，引入视觉语言模型作监督，解决视频生成模型物理建模问题，提升物理正确性和视频质量。
「被动感知」到「理解接触」！它石智航重磅发布OmniVTA视触觉世界模型
它石智航联合六大顶尖机构推出OmniVTA视触觉操作框架和OmniViTac大规模视触觉数据集。该框架核心是从被动感知到主动预测触觉，通过多模块协同让机器人有预测、理解和修正能力，实验表现优。
独家发布 Qclaw 24 小时后，OPC 们涌入观猹，等一个邀请码
腾讯发布桌面 Agent 工具 QClaw 后热度飙升，逼近字节豆包。因其可通过微信调用，安装门槛低。观猹成 AI 产品冷启动首选平台，还衍生出龙虾到家服务，观猹员真实评价助产品迭代。
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。
马斯克兑现承诺，开源X推荐算法！100% AI驱动，0人工规则
1月11日马斯克宣布7天内开源X平台推荐算法，如今承诺兑现。新算法由Grok驱动，全AI化，移除人工规则。它双引擎驱动信息流、15种行为预测打分，还揭示过滤机制与设计理念，为创作者提供曝光建议。