「安全强化」共找到 1588 篇相关文章
315曝光的“AI投毒”原理：GEO这样操控大模型推荐
央视3·15晚会揭开AI“投毒”灰色产业链，利用GEO操控大模型推荐。介绍了训练数据污染、检索上下文劫持、提示注入诱导攻击三种“投毒”技术，还阐述了内容生产、渠道投放、效果强化的产业链运转流程。
辛顿高徒压轴，谷歌最新颠覆性论文：AGI不是神，只是「一家公司」！
2025年12月19日，谷歌DeepMind发布论文《分布式AGI安全》，提出AGI可能是“拼凑型”，由众多专才模型组成，在经济上更划算。还指出其存在风险，如默契合谋、责任消解等，并给出基于“防御纵深”原则的安全框架。
性能逼近闭源最强，通义实验室开源Mobile-Agent-v3刷新10项GUI基准SOTA
通义实验室开源 Mobile-Agent-v3，覆盖多平台，7B 超同类开源，32B 挑战闭源强手。它有基于云环境的全链路开源方案、全栈 GUI 能力构建和可扩展环境强化学习体系，降低部署开销。
LLM后训练太烧钱？清华&腾讯有了破解法门：关键是得会Rollout
大模型强化学习后训练中，rollout预算易成瓶颈，且并非所有rollout都有用。清华和腾讯研究者提出TRACE框架，将Agent轨迹视为树，分配预算给易产生“成功/失败对比”的节点，实验显示其效果良好。
Claude Opus 4.7 上手实测：花7倍价格买输出，值不值？
作者实测Claude Opus 4.7，其定价约为GPT - 4.5的6 - 7.5倍。它有全新架构、强化Agent能力等升级，在代码生成、推理分析等多场景表现出色，是否值高价取决于使用场景。
OpenClaw 之后，Agentic RL有了新训练范式
大模型技术推动AI从‘回答问题’迈向‘执行任务’，Agentic AI兴起。中国科大认知智能全国重点实验室提出Claw - R1项目，将前沿Agent Runtime与强化学习训练框架结合，为Agentic AI提供新训练基础设施。
Meta、OpenAI 争抢收购 OpenClaw！创始人艰难抉择：月入不到2万刀赔钱养项目，Offer拿到手软，对几十亿融资没兴趣
OpenClaw创始人Peter Steinberger分享成名经历，项目亏损但收到OpenAI、Meta收购意向，他要求开源。他还谈AI观点，如安全恐慌被放大、AI不会取代程序员核心能力，且AI Agent将取代80%独立App。
Andrew Karpathy最新访谈：RL很糟糕、人类学习和教育、智能和文化的演变、AGI还要十年，将带来2%的GDP增长
Dwarkesh Patel 播客对 Andrej Karpathy 进行深度访谈。他认为 AGI 还需十年，目前算法有缺陷；强化学习虽有问题但必要；分析了 LLM 局限，探讨人类学习机制、AGI 经济影响等多方面内容。
仅需152个样本，性能提升48%：Memory-R1如何重塑Agent记忆能力？
这篇文章解读论文Memory - R1，其由多所高校研究团队完成，旨在解决LLM在长对话和多轮任务中的‘记忆难题’。通过强化学习让LLM学会管理记忆，用152个问答对训练，大幅超越现有基线模型。
AI 行业最新的 18 个前沿认知
文章整理了火山引擎AI领航者计划活动中，大厂、投资人和创业者对AI行业的18条前沿认知，涵盖模型层、应用层和产业层，如强化学习成竞争焦点、视频生成将崛起等，展现2026年行业新趋势。