「大模型安全」共找到 9779 篇相关文章
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在 AICon 2025 北京站的分享，结合算法实践展示 RL 系统现状及发展脉络，探讨未来超大规模 RL 发展方向，涉及理论基础、业界实践、开源生态及社区共建。
从科学论文自动生成视频
该项目解决学术演示两核心问题，用智能体PaperTalker生成视频，还设Paper2Video基准评估。介绍了PaperTalker使用步骤，含环境、配置、推理，也说明了Paper2Video评估指标及运行方法。
打通企业智能化最后一公里，腾讯云做了一件关键事
腾讯云在全球数字生态大会发布智能体开发平台3.0，它是整合多能力的完整平台，能帮企业快速打造数字员工。新版本解决诸多痛点，还展示多个成功案例，腾讯云也在加码开源。
Granola 为什么能赢：会议笔记，把产品做简单很重要
Granola是新推出一年多的AI笔记产品，迅速成硅谷创业者、投资人常用工具。其创始人认为，“AI笔记”头号竞争对手是苹果备忘录。产品好用关键在于极简“蜥蜴脑设计”与利用用户“上下文”，文中还分享设计思考与实用经验。
The Batch: 849 | 用于训练网页智能体的生成数据
开发网页智能体常需大量人力标注训练样本，卡内基梅隆大学与亚马逊团队实现训练数据生成自动化。他们构建数据集，通过智能体工作流程生成数据，微调后 Qwen3 - 1.7B 表现出色，还公开数据与方法。
刚刚，Ilya官宣出任SSI CEO！送走「叛徒」联创，豪言不缺GPU
Ilya现身X发文，自封SSI唯一CEO，Daniel Levy任总裁，此前跳槽Meta的联创Daniel Gross出局。Ilya拒绝Meta 320亿美元收购要约，称专注事业，有算力和团队，要构建安全超级智能。
何恺明新身份：谷歌DeepMind杰出科学家
网友爆料何恺明加入谷歌，经确认他以兼职形式成为谷歌DeepMind杰出科学家。可根据其近期研究推测研究方向，他还探讨生成模型能否走向端到端。何恺明履历辉煌，成果众多。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
突发！Reddit起诉Anthropic，非法访问10万次
华尔街日报消息，Reddit起诉大模型平台Anthropic，指控其非法访问网站10万次，用用户数据训练AI。Reddit称已和OpenAI、谷歌达成合规合作，此次起诉为求赔偿并让Anthropic履约。