「自我奖励训练」共找到 2494 篇相关文章
FaceAge登上「柳叶刀」！AI一张照片看穿你的真实年龄
科学家开发AI工具「FaceAge」，登上《柳叶刀数字健康》。它能通过人脸照片预测癌症患者生物年龄辅助治疗。研究显示，脸显老的患者治疗效果差。不过，它存在训练数据局限，离临床应用还有距离。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
阿里最新开源王炸Agent！性能全面SOTA！
阿里WebAgent更新频繁，基本一月一版。它是类似DeepResearch的通用智能体，历经WebWalker到WebWatcher多阶段演进，各阶段解决不同问题，如网页导航、自主信息搜集等，还不断优化训练数据生成与处理方式。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
Shopify 经验贴：如何搞出一个生产级别可用的 AI Agent 系统？
Shopify 以 AI 助手 Sidekick 为例，分享从简单工具调用系统演变为复杂 AI Agent 平台的经验，包括架构设计、评估方法和训练技术等方面，还给出构建生产级别可用的 AI Agent 系统的四条核心建议。
14B检索能力超过Google Search，阿里ZeroSearch通过RL激发LLM检索推理能力~
有效信息搜索对提升LLMs推理和生成能力重要，当前RL方法有文档质量不可控和API成本高问题。阿里通义Lab提出ZEROSEARCH框架，经多步骤训练，实验显示其在检索能力和泛化性上表现出色。
谷歌「推理之王」也跑路Meta了，当年还是李飞飞挖来的
谷歌「离职潮」含金量提升，「推理之王」周登勇跳槽Meta。此前Noam Shazeer、John Jumper等也相继离开。谷歌全力「武装」AI Coding突击小队，重构Gemini训练方式，与原世界模型AGI路线冲突。
Claude code让程序员消失，Anthropic却说用AI编程会让你变傻
Anthropic科学家实验发现，新手过度依赖AI编程，概念理解、代码阅读和调试能力显著退化，效率未提升。研究识别六种AI使用模式，指出主动思考才是技能形成途径，应保留人脑训练的“摩擦力”。
2篇最新论文，把Deep Research讲透了~
阿里开源Tongyi DeepResearch热度高，文章分享两篇相关技术综述。介绍Deep Research是代理研究新范式，阐述其四大核心模块、优化方法、数据处理、奖励机制，还提及开源系统亮点及相关论文。
不靠英伟达，中科院在国产 GPU 上跑通 76B 类脑大模型
过去大模型依赖Transformer和NVIDIA GPU体系，硬件自主化难。中科院团队提出类脑大模型SpikingBrain，在超长文本处理上百倍加速，在国产MetaX GPU平台稳定训练76B模型，开辟新道路。