「奖励模型漏洞」共找到 7843 篇相关文章
VinciCoder：多模态统一代码生成框架和视觉反馈强化学习，数据代码模型权重已开源
中科院与美团团队推出 VinciCoder，打破多模态代码生成中 SFT 范式瓶颈。它将奖励机制转向视觉域，通过两阶段策略统一多样化代码生成任务，在多基准测试中表现卓越，为领域研究提供新范式。
Claude仅用8分钟，5年未解Bug秒破！
知名硬件钱包Coldcard因五年代码漏洞暴雷，此前Coldcard团队多次更新审查未查出，开发者用Claude仅8分钟就找到。此前国会闭门演示展示Claude挖漏洞能力，Anthropic复盘还曝光Claude等模型「暴走」情况。
从“卷模型”到“算总账”：AI 产业竞争开始拼什么 | 请回答 WAIC 2026
WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。
ICML 2026 | 大模型内部也会长出「情绪树」，规模越大越懂人心
ICML2026 论文指出，大语言模型内部会自然形成类似人类心理学模型的「情绪树」，模型越大，情绪树越复杂，且在销售等任务上表现更好。同时，模型的情绪结构受身份设定影响，存在与人类相似的情绪识别偏见。
终于！世界模型进入“有声时代”：24FPS画面+48kHz立体声实时生成
过去两年视频生成模型不断提升画面参数，但传统模型生成的视频固定，用户无法干预。而世界模型可跟随操作实时渲染、动态生成世界。目前Noiz AI联合多机构发布实时可交互音视频世界模型HelixWorld 1.0，后续还将开源。
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
BIGAI & 中科大团队提出 MILR: 测试时隐空间推理，让图像生成学会「边想边改」丨ICLR 2026
BIGAI与中科大等团队提出MILR，通过测试时隐空间推理，在不更新模型参数下优化图文表示，提升复杂图像生成能力。该方法在多基准测试达SOTA，还探讨了测试时扩展与奖励模型，未来有诸多拓展方向。
复旦、同济和港中文等重磅发布：强化学习在大语言模型全周期的全面综述
来自多所顶尖科研机构的研究者完成长文综述，总结大语言模型全生命周期的强化学习研究，阐述其各阶段应用策略，分析未来挑战与趋势，重点关注 RLVR 技术，有全生命周期梳理等三大贡献。
一场文心大模型的「AI马拉松」
2025 年模型能力至关重要，百度在基础模型研发持续投入。百度 AI Day 上，吴甜解读文心新模型技术，文心 X1 Turbo 推理强、成本低。百度技术体系完备，未来看好多模态与智能体，降成本促应用生态发展。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。