「推理性能优化」共找到 4197 篇相关文章
亚马逊发布新AI大模型，部署机器人突破100万
全球电商、云计算巨头亚马逊宣布推出新AI基础大模型Deep Fleet，部署机器人超100万。该模型可提升机器人车队出行效率，还能协调机器人移动，带来交付快、成本低等好处。
大模型首次直接理解代码图：不用Agent自动修bug，登顶SWE-Bench开源模型榜单
蚂蚁开源新模型CGM，首创将仓库代码图模态融入大模型，不依赖闭源模型和复杂Agent，仅需4步就能快速定位、生成补丁。它在多个测试基准中领先，技术论文等均已开源。
LLM进入「拖拽时代」！只靠Prompt，几秒定制一个大模型，效率飙升12000倍
新智元报道，NUS、UT Austin等机构研究人员提出「拖拽式大语言模型」（DnD），它基于提示词生成模型参数，无需微调适应任务，效率最高提升12000倍，零样本泛化能力出色。
InfoDeepSeek：首个开放网络环境下的智能体信息搜寻质量评估基准
上海交通大学与华为诺亚方舟实验室联合推出InfoDeepSeek，它是首个评估真实动态网络环境下智能体信息搜寻质量的基准。该基准有挑战性问题、真实动态环境等亮点，还开展实验揭示智能体行为特性。
Agent进入下一篇章！Alita：不靠人工预设，自己造工具，成绩碾压OpenAI
当前AI Agent依赖人工预设，存在工具不够用、缺乏创造力、兼容性差等问题。Alita秉持少预设多进化理念，用MCP协议，架构含三大模块，实验成绩超OpenAI，还能让小模型提效。
谷歌Gemini Diffusion：1500 token/秒，快如闪电！
谷歌DeepMind在I/O 2025上推出实验性模型Gemini Diffusion，将扩散技术用于文本生成。它每秒能生成约1500个token，比Gemini 2.0 Flash - Lite快5倍，具备高响应速度、文本连贯性等优势。
“烧掉94亿个OpenAI Token后，这些经验帮我们省了43%的成本！”
作者以月耗94亿OpenAI Token实战经历，分享优化成本经验，如选对模型、用提示词缓存、设账单预警等，降低成本43%，不过网友对此有不同看法。
斩获18.3K star！再见Airtable，这款Postgres驱动的开源表格神器要火！太 6了
Teable是基于PostgreSQL的无代码数据库平台，被赞为Airtable开源替代潜力股。它有百万级数据秒级响应等亮点，具备独特技术架构，适用于多场景，与同类对比优势明显。
微软叫停Tokenmaxxing！预算卡死，超限自负
从今年7月起，微软为各业务部门设「AI Token预算目标」，将GPT - 5.6设为内部默认模型。此前Tokenmaxxing风靡硅谷，如今大厂纷纷收紧AI使用，微软是最后跟进者之一。
Agent 形态一天一个样，Infra 到底该为谁而建？
过去一年，Agent 应用形态多变，但进入稳定生产环境的项目有限。清程极智师天麾认为，Agent Infra 重要性待显，当前应提高 Token 生产交付效率。还探讨了 Agent 发展问题、Token 相关指标及收费模式等。