「智能体安全」共找到 4196 篇相关文章
NeurIPS 2025｜指哪打哪，可控对抗样本生成器来了！
近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。
港大开源ViMax火了，实现AI自编自导自演
香港大学黄超教授团队开源ViMax框架，在GitHub获高星标。它借助多智能体协作实现AI自编自导自演视频，突破主流模型在长视频制作的瓶颈，采用多种策略应对技术挑战，不过在多方面仍有提升空间。
一夜变天！谷歌一刀砍向两巨头：奥特曼急了，黄仁勋慌了
最近谷歌重回AI舞台中央，左手TPU拆解英伟达芯片暴利，右手Gemini 3围剿OpenAI流量帝国。谷歌高管称「Gemini 3开启智能新纪元」，在多项基准测试中超越GPT - 5。Nvidia和OpenAI面临严峻挑战，AI三国混战已开始。
大厂CIO独家分享：AI如何重塑开发者未来十年
阿里云智能集团副总裁、CIO蒋林泉分享AI时代开发者发展。他指出不能用旧有标准评判价值，探讨技术贡献衡量、全栈工程师、提效顺序等问题，强调AI可助力学习和角色创新，还提及招人看重的能力和心性。
开源大模型SOTA又刷新！中国MiniMax M2全球排名第五，开源榜一
中国AI独角兽MiniMax发布模型M2，刷新开源SOTA。它采用混合专家架构，平衡了智能、速度和成本。在多个权威测试中表现优异，价格仅为Claude 3.5 Sonnet的8%，还提供多种部署方式和限时免费服务。
仅100种子题，合成数据质量超GPT-5，阿里、上交提出Socratic-Zero框架
阿里巴巴与上交大联合提出 Socratic-Zero 框架，仅从 100 个种子问题出发，通过三智能体协同进化生成高质量课程。该框架合成数据质量超 GPT - 5 等，Solver 性能提升显著，工程友好，开启零数据自进化新路径。
机器人连续叠衣120分钟！仅用0.9B参数实现五大SOTA｜清华AIR & 上海AI Lab开源
清华大学智能产业研究院与上海人工智能实验室联合发布通用跨本体具身基座模型X-VLA。它是首个实现120min无辅助自主叠衣的全开源模型，仅0.9B参数量就在五大权威仿真基准刷新纪录。
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。