「观测的暴露度」共找到 10530 篇相关文章
OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到
OpenAI发布技术报告解释GPT-4o更新后“变谄媚”原因，是强化学习及用户记忆等因素共同导致。还分享了上线前未发现问题的缘由及后续改进流程的多方面举措，同时提到对用系统提示词控制模型行为存疑。
对话蚂蚁 AWorld 庄晨熠：Workflow 不是“伪智能体”，而是 Agent 的里程碑
文章围绕AI Agent展开，蚂蚁集团AWorld算法负责人庄晨熠认为，当前AI陷入‘应试狂热’，Workflow是智能体发展的里程碑，群体智能与大模型相辅相成，还分享了智能体应用实例及对未来的规划。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
视频推理界的“福尔摩斯测试”：所有大模型，统统不及格 | 论文代码开源
腾讯ARC Lab和香港城市大学推出Video - Holmes，这是视频推理界的‘福尔摩斯测试’，能展现多模态大模型复杂视频推理能力的边界，规避现有Benchmark痛点，测试中所有大模型全部不及格，代码已开源。
以星为舵：LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。
装了N个skills之后，鹅厂员工觉得“最香”的是哪一个？
文章围绕技能使用展开，介绍鹅厂员工推荐的各类实用技能，如腾讯文档 skill、westock - data、小区避坑神器等，还鼓励读者分享自己的宝藏 skill 或想法，关注有奖励。
第一批用Clawdbot赚钱的人类出现，一晚上狂赚300万！全球金融变天了？
新智元报道，已有人类用Clawdbot集成到Polymarket一晚上狂赚49.3万美元，Moltbook上的Agent还发布供AI赚钱的指南。AI自建文明加速，未来赚钱是否带人类成疑问。
一文读懂DeepSeek-V3.2核心技术DSA：API疯狂降价性能不减的背后
DeepSeek发布实验模型DeepSeek V3.2，引入自研稀疏注意力机制DSA，API价格最高降75%。DSA先筛选后计算，含闪电索引器和稀疏多潜在注意力两组件，分四步工作，权衡了精确性与速度。
100 刀订阅的 Claude Cowork，被 GitHub 大神 2 天手搓出「开源升级版」！
Anthropic 的 Claude Cowork 功能强大，但昂贵门槛挡住多数人。开源社区的 Accomplish，开发者 2 天就搓出其开源平替版，还是升级版，能本地运行、支持多模型。