「防注入」共找到 232 篇相关文章
CVPR2026 | 鬼手想点谁就点谁？LaSM让GUI智能体把注意力「收回来」
文章聚焦弹窗式环境注入攻击，指出多模态智能体易受环境干扰致目标漂移。提出 LaSM 方法，通过放缩关键层权重让智能体注意力回到任务，实验显示其提升防御效果，且对正常任务影响小。
代码为刃 创意为甲，探索国产AI应用新路径 ——“算网杯”2025 AIGC开发者大赛圆满落幕
1月17日，“算网杯”2025 AIGC开发者大赛决赛在中国科大苏州高等研究院落幕。大赛受业界关注，吸引500余名开发者。以“探索国产AI应用新路径”为导向，成果丰富，发掘了人才与项目，为产业注入动能。
读万卷书，大模型就能「看」懂视觉世界？Meta揭秘LLM视觉先验的起源
Meta超级智能实验室与牛津团队新论文发现，只见过文本的大语言模型（LLM）能学到可迁移到视觉任务的先验能力。研究通过超100组受控实验、耗费50万GPU小时，揭开LLM视觉先验来源，还给出预训练数据配方。
智谱AI发布桌面Agent，轻松训练 AI数字员工
智谱AI发布ComputerRL自主桌面智能框架，旨在让AI像人一样用电脑。它融合API与GUI，采用分布式训练，引入Entropulse解决探索衰减。在OSWorld测试中表现亮眼，虽有视觉感知等挑战，但意义重大。
无需人类插手！AI战队自主进化，人类玩家瑟瑟发抖
论文《Agents of Change: Self - Evolving LLM Agents for Strategic Planning》以桌游《卡坦岛》为“考场”测试AI战略能力。研究团队设计四代AI特工，实验显示能自我进化的AI完爆静态AI，不过也存在计算成本高、依赖基础模型等问题。
AI全面爆发后，企业正在悄悄争夺知识库入口｜甲子光年
AI幻觉问题让企业意识到通用模型在专业场景的局限，需构建企业级知识库。腾讯在峰会上宣布升级知识库产品，乐享知识库通过AI赋能解决数据整合、更新等痛点，未来知识库将与业务深度联动。
面对MCP"工具投毒"，我们该如何应对
近期MCP爆火但安全风险显现，安全机构指其有严重漏洞，会致‘工具投毒攻击’。本文介绍通过客户端/服务器代码复刻攻击过程，剖析MCP客户端和服务端安全风险，还给出阿里云的两种安全监控方案。
大厂的AI不限量补贴终会结束！Hermes Agent作者：开源框架真正的狠招是把Claude对Anthropic的忠诚抢过来
科技创作者 Peter Yang 对话 Hermes Agent 作者之一 Karan Malhotra，探讨 Hermes Agent 与其他产品的差异、模型谄媚问题、开源意义等。Karan 指出其独特自我改进系统与专注用户需求特点，还提及让模型更贴合用户的方法。
AIGC全生命周期业务风控白皮书，从备案到运营的合规与安全实践
2025年9月15日《人工智能安全治理框架》2.0版发布，为AI风险防控指明方向。数美科技发布《AIGC全生命周期业务风控白皮书》，构建全生命周期业务风控体系，涵盖合规备案、安全评测、账号与内容风控等多方面。
The Batch: 880 | 用 AI 学 2 小时 vs. 跟老师学 6 小时
Alpha School用AI驱动教学，将传统6小时课程替换为2小时个性化学习，让学习速度翻倍，学生考试成绩优异。但部分教育委员会拒绝其分校申请，批评者称缺乏严格证据。此外，美国多地也在进行AI教育尝试。