搜索：智能体防御框架

「智能体防御框架」共找到 4654 篇相关文章

当大模型陷入幻觉循环，如何用工程化给它“立规矩”？

普林斯顿和伯克利研究定义“机器胡扯”，指出大模型胡扯问题。蚂蚁集团旗下蚂蚁密算在2025 WAIC提出高阶程序（HOP）框架，为大模型注入规则，还开源此框架，其在多行业场景应用效果良好。

2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。

Moltbot热度不减，开发者挖掘其实用价值，阿里云、腾讯云上线相关云服务。Moltbot作者Peter接受采访，分享项目起源、开发思路等，认为MiniMax M2.1是优秀开源模型，还探讨了智能体发展及项目后续规划。

2025年中国开源模型表现出色，AI大模型探索新范式。AGI - Next前沿峰会嘉宾探讨AGI发展，指出大模型To C与To B市场逻辑分化，还谈及自主进化、智能体变革及中国AI发展路径等问题。

Github官方精选9个开源项目，分框架与平台集成、开发者体验及AI增强编码、自动化与测试编排三大主题。各项目聚焦不同功能，如将MCP嵌入框架、语义理解辅助编码、安全执行调试等，能加速开发者生产力。

Anthropic分享从0到1构建多智能体DeepResearch系统的方法，该系统是Claude内置Research功能。干货多，涵盖架构设计、Prompt工程等。多智能体性能比单模型高90.2%，但烧钱，适合高价值复杂任务。

据OpenRouter统计，截至8月10日，Agent类token用量半年涨14倍，人类仅2.8倍。差距源于用法差异，虽智能体部分token计价低，但用量大仍烧钱。省钱关键在配套，且智能体任务验收缺人手。

DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。

2025年AI迈向ASI，新智元迎十周年，9月7日将在北京举办峰会。众多大咖齐聚，探讨芯片、大模型等前沿突破。今年大模型发布密集，如OpenAI、谷歌等有新成果，中国造大模型也表现出色，未来智能体等将爆发。

传统飞行器气动布局设计依赖专家经验，方案多样性受限。本文基于改进的生成对抗网络，提出端到端气动布局生成框架，以机翼和通航飞行器为对象研究，验证了其在创新飞行器设计方面的潜力。