「智能体安全」共找到 4135 篇相关文章
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
5个月估值翻10倍，AI数据赛道跑出一家新独角兽
成立约18个月的AI训练数据公司AfterQuery正筹新一轮融资，估值达32亿美元，5个月涨超10倍。它最初想开发AI智能体，后转收集训练材料。此赛道已有多家高估值公司，且数据隐私和安全风险待解。
谷歌研究院探索多智能体协调的扩展原则
谷歌研究院对180种智能体配置对照评估，得出‘AI智能体系统首批定量扩展原则’。发现多智能体协同效果因任务而异，还指出工具使用瓶颈等问题，且开发预测模型辅助架构选择。
如何在不牺牲生产力的情况下构建安全软件
安全与开发效率常冲突，Dorota Parad 在 QCon 旧金山大会分享构建安全软件之道。她主张减轻漏洞影响，抵制阻碍生产力的安全要求，与安全团队合作，还提及 BLISS 框架、CI/CD 管道增强安全等。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。
Karpathy新思考：别把AI当动物，它们是全新的智能物种
Andrej Karpathy发长推提出颠覆性观点，认为人们用错误框架理解AI，对比了动物智能与LLM智能的优化动力、根本差异等，强调优化目标决定智能形态，指出应按其机制对待AI。
具身智能的终极命题：是造「人」还是造「生产力」？
华为开发者大会 2025 发布 CloudRobo 具身智能平台，为具身智能带来新视角。工业和商业场景实践显示，具身智能终极目标是锻造普适的「生产力引擎」，产业竞赛关键在于打造「群体智能协同」。
开源版 Claude Cowork
Multica是原生桌面客户端，将编程智能体能力带给大众，支持Claude Code等。它类似Obsidian，可按需定制，能解决编程智能体使用障碍，具备简洁界面等特性，还介绍了使用、开发、构建等内容。
不止是玩！有人利用Clawdbot组建了一个虚拟团队接管公司业务
AI智能客服公司SiteGPT创始人分享利用Clawdbot构建AI智能体团队‘Mission Control’的经验。该团队含10个智能体，可协同工作。系统有心跳机制控成本，还有协同平台，已产出多种成果。
请回答2026：38位中国AI关键人物的Magic Moment和趋势判断｜甲子光年
甲子光年与38位中国AI关键人物对话，总结2025年Magic Moment，展望2026年技术趋势。2025年是中国AI关键年，2026年大家不再聚焦大模型，更关注多模态、智能体等‘系统级智能’突破。