「高效推理框架」共找到 3700 篇相关文章
用Spring AI Alibaba把MultiAgent实现从5天压到5小时
Spring AI和Spring AI Alibaba新版本支持Multi - agent编排。文章展示基于Spring AI Alibaba实现Multi - agent，从原理到实战，给出示例代码，解决手写框架问题，对比两种编排方式优劣，强调选对框架可提升开发效率。
73%人类认同率！Video-Bench实现视频质量精准打分
上海交大等团队提出视频评估框架Video - Bench，让多模态大模型‘像人一样评判视频’。它构建双维度评估框架，引入链式查询和少样本评分技术，与人类判断73%高相关，为视频生成模型优化提供标尺。
港科广×腾讯联手打造《我的世界》神操作，400张截图就能让AI挖矿通关，成本降至5%｜EMNLP 2025
港科广与腾讯联合团队提出VistaWise框架，将“跨模态知识图谱+轻量化视觉微调”引入开放世界智能体。实验显示其在“获取钻石”任务表现出色，成果被EMNLP 2025主会录用。该框架以低成本、跨模态为突破口。
AI秒破18世纪「天书」账本！谷歌新模型盲测刷屏全网
谷歌AI Studio上一神秘模型引发关注，它识别200多年前商人的「天书」账本，修正格式错误与模糊表述，推理能力令历史学家震惊。该模型解决手写识别和推理两大难题，或为谷歌将推的Gemini - 3。
谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。
在失败中进化？UIUC联合斯坦福、AMD实现智能体「从错误中成长」
伊利诺伊大学厄巴纳 - 香槟分校等团队发布论文，剖析LLM智能体失败机制，提出可自我修复的创新框架AgentDebug。研究指出智能体常见失败类型，构建错误分析体系、数据集，实验显示该框架效果显著，为AI可靠性提供方案。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
AI 设计9个月就能媲美Blackwell？OpenAI “辣芯”绕开英伟达正面战场，但老黄的GPU大盘不稳了
OpenAI 展示与博通联合打造的定制 AI 芯片 Jalapeño，性能媲美英伟达 Blackwell 或谷歌 TPU。计划年底部署，是多代芯片开发首步。它专为大模型推理设计，设计周期短，成本低，OpenAI 借此扩展全栈能力。
逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%
Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。
五百行代码打造SOTA视觉智能体！UniPat AI最新开源
多模态大模型代码能力强，但基础视觉任务常失误。UniPat AI推出极简视觉智能体框架SWE-Vision，让模型用代码弥补视觉短板，在五个主流视觉基准测试达最优。该框架设计独特，开源代码和数据已发布。