「AI模型安全」共找到 13550 篇相关文章
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。
“通用大模型微调成为行业模型是伪命题”？医疗 AI 深度重构，传神语联创始人何恩培：孪生智能体能砍 70% 线下复诊工作
本文为《2025年度盘点与趋势洞察》系列内容，传神语联创始人何恩培认为通用大模型微调成行业模型是伪命题。他表示孪生智能体能砍70%线下复诊工作，还分享了医疗AI发展、中医和西医落地方向及突破方向等见解。
最大游戏up主也玩本地AI？让笔记本都能跑大模型的Parallax来了
11月3日，知名游戏博主PewDiePie展示自建本地AI系统，引发全网轰动。本地AI有隐私、性能等优势。Parallax是开源AI项目，挑战“AI必须上云”逻辑，支持异构设备组网和多模型，性能优。
从“卷模型”到“算总账”：AI 产业竞争开始拼什么 | 请回答 WAIC 2026
WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。
开源AI引爆热潮！GOSIM AI Paris 2025首日直击：80+位技术大咖聊模型、拼算力、秀落地
5月6日，GOSIM AI Paris 2025大会在法国巴黎启幕，80余位技术专家与学者参会。GOSIM联合创始人认为开源AI已追上闭源，AGI或由多模型组成网络。大会设四大分论坛解析开源AI，还有特色单元，明日将迎PyTorch Day。
大模型也需要自我反思，上海AI Lab合成“错题本”让大模型数学成绩提升13.3%
上海AI Lab提出LEMMA方法，构建“错误 - 反思 - 修正”数据，让大模型从错误中学习。通过教师模型定向制造“学生会犯的错”构造数据，实验显示在Llama3 - 8B上数学解题准确率提升13.3%。
忘记大模型，英伟达：小模型才是Agentic AI的未来！
截至2024年末，Agentic AI领域获超20亿美元初创公司融资。NVIDIA研究报告显示，多数Agentic AI场景中，小型语言模型已足够强、更适配、更便宜，LLM-to-SLM迁移是必然趋势。
AI应用如何落地政企？首先不要卷通用大模型
ISC.AI 2025大会显示智能体技术加速渗透产业。360政企AI业务与智能体深度绑定，其落地有三重逻辑：不追通用大模型，聚焦小场景；用“乐高式”工厂赋能；安全与AI深度融合是必选项。
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。
OPPO AI重磅发布：深度研究智能体，离“真正好用”还有多远？我们给大模型做了一次全身体检
2025年，Deep Research成AI热点，OPPO AI Agent Team对大模型评测。发布论文，开源评测基准FINDER和失败分类体系DEFT，揭示AI“装懂”“缺乏韧性”问题，还分析模型表现并给出发展建议。