「蚂蚁安全与智能实验室」共找到 1518 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
云厂商「进击」 Agent 开发平台
企业级智能体（Agent）市场崛起重构云服务竞争格局，云厂商需提供全栈能力。腾讯云宣布智能体开发平台3.0上线，优图实验室关键技术持续开源。文中还分析企业开发Agent难题及腾讯云应对举措。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
Chain-of-Agents: OPPO推出通用智能体模型新范式，多榜单SOTA，模型代码数据全开源
OPPO个性化AI实验室团队推出智能体推理范式CoA及模型AFM，解决传统多智能体系统通信效率低等问题。AFM在近20项测试中刷新记录，降低推理成本，还介绍了架构、数据构建等，也指出待探索方向。
Meta出1亿美元，挖角OpenAI员工
CNBC消息，Meta曾试图以1亿美元签约奖金和高年薪挖OpenAI员工，但未成功。Meta CEO扎克伯格亲自为AI实验室组顶尖团队，此前还推迟旗舰模型发布，近期收购Scale AI部分股份并挖来多名人才。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。
伯克利神作背刺OpenAI：持续学习才是真神！
伯克利等机构发布FST框架，通过快慢分层解决大模型持续学习死局。过去两年头部实验室都在提升模型推理能力，却忽视持续学习。FST让模型像大脑一样快慢分层，提升数据效率、减少遗忘，使持续学习可工程化。
全国首部“数据流通交易合规”标准，现公开征集起草单位和专家！
2026年是数据要素价值释放年，数据资产交易却面临合规与安全难题。中国电子商会归口、智合标准中心组织编制《企业数据要素流通交易合规指南》团体标准，涵盖多核心模块，有三大亮点，现征集起草单位和专家。
设计流程已死：Anthropic 设计负责人 Jenny Wen 谈 AI 时代的设计变革
Anthropic的Claude设计负责人Jenny Wen在Lenny's Podcast中谈AI时代设计变革。她指出传统设计流程被工程速度倒逼走向尽头，还分享在AI实验室做设计的感受、Co - work开发故事等，给出招聘设计师的标准。