「AI对齐训练」共找到 11171 篇相关文章
破除AI Agent自主操控风险：万字解读LangGraph“人工干预”机制 ，附零基础实战
随着LLM驱动的Agent从学术走向应用，确保其行为的可靠性、安全性与可控性成关键挑战。文章以LangGraph为例，介绍其人工干预机制的核心原理、四大经典模式及案例实践，助开发者构建可靠、安全的智能代理。
当LeCun还在「画饼」，中国AI大牛领先李飞飞一步把世界模型开源了
具身智能突破「遥操作」数据桎梏，商汤联合创始人王晓刚领衔的大晓机器人发布全球首个开源商业落地世界模型「开悟3.0」。它是多模态理解 - 生成 - 预测一体化，有强物理感知力，还解决了空间感和时间记忆问题。
碾压π0.5，复旦团队首创「世界模型+具身训练+强化学习」闭环框架
复旦团队针对当前 VLA 策略依赖模仿学习、真实机器人在线 RL 成本高、传统物理仿真器有局限等问题，提出 ProphRL 框架。该框架以世界模型 Prophet 为核心，结合 RL 算法，为具身智能落地提供更可行路径，实验效果显著。
企业级 AI Agent规模化落地的避坑指南，就藏在这四大趋势里
2025 年被视为企业级 Al Agent 落地拐点，“价值导向型”采购兴起，RaaS 正压过传统 SaaS。文章介绍 MCP、GraphRAG、AgentDevOps、RaaS 四大趋势，给出工程化解法，还展示金融、招聘等场景案例及落地自检清单。
卡帕西大模型横评方法太好玩了！四大AI匿名参赛评分，最强出乎意料
卡帕西发布“大模型议会”web app，系统通过OpenRouter调起多模型开会商议，各模型答题、互评、排序，由主席模型给出统一答案。可对比模型差异，模型自评与人类主观或不同，多模型集成或成突破点。
2025AI红利爆发！新智元创始人与5位清华系大咖「探索对话」
11月5日，「新浪新闻・2025探索大会」举办，新智元创始人杨静主持探索对话环节，多位嘉宾围绕「如何掌握科技创新的时代红利」展开交流，探讨释放红利路径，还提及协同创新和出海对放大红利的重要性。
ICCV25 Highlight｜格灵深瞳RICE模型狂刷榜单，让AI「看懂」图片的每个细节
格灵深瞳公司灵感团队自研的视觉模型基座RICE（MVT v1.5）刷榜多项视觉任务，在ICCV25获Highlight荣誉。它延续MVT系列理念，提升图片内部视觉特征差异性，在多任务验证中表现优异。
开源AI教育视频生成神器，3Blue1Brown风教学动画一键搞定！
新加坡国立大学Show Lab团队开源Code2Video，能让代码变高质量教育视频，逻辑是用代码驱动视觉效果。它有智能解析等特性，可解决传统教学视频形式单一等问题，应用场景广泛。
腾讯王者归来：混元图像3.0登顶LMArena！一手实测全球最强图像AI
LMArena最新榜单显示，腾讯「混元图像3.0」在文生图任务中夺冠，碾压谷歌Nano banana和字节Seedream 4。它9月28日开源，性能对标闭源模型，有强大推理、语义理解能力，支持中英文长文本渲染。
可灵2.5Turbo实测｜顶尖AI视频模型，真能打平CG吗？
可灵发布2.5 Turbo版本视频模型，进步显著，提示词理解、高速动态表现、风格稳定性都有提升，价格还更划算。经多场景测试，其在特定场景下内容质量能与CG媲美，开始理解动作背后逻辑。