「Agent攻击」共找到 3004 篇相关文章

算法论文8

CVPR2026 | 鬼手想点谁就点谁?LaSM让GUI智能体把注意力「收回来」

文章聚焦弹窗式环境注入攻击,指出多模态智能体易受环境干扰致目标漂移。提出 LaSM 方法,通过放缩关键层权重让智能体注意力回到任务,实验显示其提升防御效果,且对正常任务影响小。

机器之心
产品应用8

把 MiniMax M2.7 扔进真实业务里:它替我省了 BI 和程序员的钱

作者测试 MiniMax M2.7,用含复杂数据的 Excel 测试其办公能力,让其开发管理系统验证工程能力,还测试 MaxClaw 多步骤 Agent。结果显示它表现出色,但处理复杂事件仍待优化。

InfoQ
新闻资讯7

只会写代码没戏了!奥特曼最新面试题曝光:1人要干1个团队的活

OpenAI开年首场答疑会,奥特曼坐镇回应关切。他承认团队为追求ChatGPT编程能力,牺牲创意协作能力。还谈及软件工程未来变革、AI成本降低、Agent自主运行等问题,也对众多提问给出看法。

新智元
新闻资讯8

2026:ASI奇点之年!

马斯克断言2026是奇点之年,称AI发展如超音速海啸。从AI编程能力提升、任务时长指数级增长,到‘品味奇点’概念提出,各方面迹象显示AI正深刻变革各行业。杨静与李建忠对谈探讨了ASI奇点相关话题。

新智元
产品应用7

关于Claude Skills,我给你写了份82页的白皮书

作者关注Claude Skills功能已久,使用后感受是它让Claude学会按需加载。还解析了Skills、MCP、Sub - agents区别,指出有人认为Skills比MCP更重要,最后介绍82页白皮书内容及获取方式。

花叔
新闻资讯7

快手遇P0级安全事故,市值蒸发近百亿;字节120名员工因触犯红线被辞退;Karpathy自曝“作为程序员从未感到如此落后”,引爆焦虑|AI周报

本周AI界热点不断,Karpathy推文引科技圈焦虑;快手遇安全事故市值蒸发近百亿;京东员工年终奖优厚;字节辞退120名违规员工;还有英伟达重组云团队、微软纳德拉抓AI产品等消息。

AI前线
产品应用7

让AI真正懂数据:猫超Matra项目中的AI知识库建设之路

文章聚焦猫超Matra项目的AI知识库建设。猫超数据体系庞大但有治理难题,促使Matra项目诞生,旨在实现智能取数。文中详述知识库设计、实践及效果,还提及未来在准确性、保鲜性和能力拓展上的规划。

阿里云开发者
算法论文8

智能体并非越多越好,45%准确率成关键拐点

Google研究《Towards a Science of Scaling Agent Systems》验证“智能体并非越多越好”。在GPT等上实验发现,单个智能体准确率超45%,增加数量会损性能,还揭示工具税、错误螺旋等问题,给出预测公式。

AI工程化
开源动态8

搅局者来了!智谱重磅开源AutoGLM,让“豆包手机”人人可造!官方:AI手机不该掌握在少数厂商手中

智谱团队将核心AI Agent模型AutoGLM完整开源,它有手机操作能力,支持上百主流APP。智谱认为AI手机是趋势,不应被少数厂商垄断,开源还能解决隐私问题,复用技术经验。

AI前线
产品应用7

Human In the Loop竟然可以是个MCP?

文章基于阿里实践,阐述如何在大模型研发平台OpenLM及其他Agent平台,针对“Human In The Loop”场景做产品设计与研发。介绍用MCP实现人机回路的方案,还探讨人类回答及提示词倾向性等问题。

阿里云开发者