「AI智能体推理框架」共找到 12212 篇相关文章
消费级显卡跑大模型训练门槛再降：Qwen3-1.7B强化学习只需5GB显存
消费级显卡跑大模型训练门槛再降，Unsloth AI的FP8精度强化学习方案让Qwen3 - 1.7B的GRPO训练只需5GB显存且性能无损。该方案与TorchAO合作，有推理优势，还在内存优化等方面表现出色。
传统云还在「卖铁」，下一代云已在「炼钢」：火山引擎xLLM如何一张卡榨出两张的性能！
大模型上线部署时推理成本高、算力投入大但效果不成正比，企业面临推理效率难题。火山引擎 xLLM 大语言模型推理框架性能极致，成本低，集成关键创新，还被集成到 AI 云原生推理套件 ServingKit 中。
罗福莉执掌小米大模型首秀！定调下一代模型，全新MiMo-V2开源还横扫Agent第一梯队
在2025小米人车家全生态合作伙伴大会上，罗福莉首秀解读全新大模型MiMo - V2 - Flash，该模型已开源，采用MoE架构和MTP技术，在多方面表现出色，罗福莉还阐述其设计逻辑与对下一代智能体的看法。
全网首份「龙虾」安全部署指南来了！360出品
近日，开源AI智能体OpenClaw走红，多地出台扶持政策，部署成趋势。但它带来新安全挑战，工信部、信通院等已预警。360集团率先发布国内首份《OpenClaw安全部署与实践指南》，为政企和开发者提供安全参考。
地平线余凯：80%的精力思考死门在哪
2025年4月18日，地平线举行发布会，创始人余凯分享战略思考方法论与“反共识”思考。他认为公司应在无竞争处竞争、不冒险，智能驾驶重功能价值，AI时代产品逻辑有别互联网，还提及技术变革战略、“平权陷阱”及高阶智驾基础。
小扎疯狂挖角 OpenAI、签约跳槽就发 7 亿奖金，奥特曼痛批：不懂创新，老“复制”人了
Meta 首席执行官扎克伯格掀起 AI 人才争夺战，向 OpenAI 和谷歌 DeepMind 员工提供巨额签约奖金。OpenAI 首席执行官奥特曼证实此事，称挖角大多未成功，还批评 Meta 不懂创新，只“复制”。此外，奥特曼还谈及超级智能等问题及 OpenAI 未来方案。
只用国产GPU训练的大模型性能飙升100%！国内唯一，更懂你
科大讯飞发布全国产算力训练的讯飞星火X1.5，推理效率暴涨100%，综合性能跻身全球顶级。还首发非自回归语音大模型架构，效果提升、成本降低。此外，展示多领域应用成果，发布相关产品，开源智能体平台。
基于Memory Bank的Cursor长会话记忆内存库理论研究与实践
文章围绕Memory Bank展开，介绍其为解决大模型长会话记忆瓶颈而设计的机制，包括存储、检索、更新模块。阐述其在编程和知识库建设的应用，还评测了Codelf等工具，指出Memory Bank是AI迈向智能的重要一步。
不再“纸上谈兵”：大模型能力如何转化为实际业务价值
InfoQ《极客有约》X AICon 直播栏目邀华为云郑岩、蚂蚁集团杨浩、明略科技吴昊宇，探讨大模型驱动业务提效。分享场景探索、技术落地经验，如选模型考量因素、AI Agent 创新等，还提及 MCP 应用与未来展望。
The Batch: 885 | Claude 升级了
Anthropic更新中型模型Claude Sonnet至4.5版本，在性能上显著提升，还引入可变推理token预算。Claude Code智能编码工具也获功能增强，新增Claude Agent SDK等。测试中Claude Sonnet 4.5表现优异，Anthropic重心转向编码与职场生产力。