「推理缓存优化」共找到 3050 篇相关文章
NeurIPS 2025 | 告别全量扫描！浙大提出COIDO：破解多模态数据选择「高耗」难题
浙大提出 COIDO 框架解决多模态数据选择「高耗」难题。它摒弃全量扫描，用轻量级评分器和小样本采样，将重要性和多样性的优化统一。实验显示，它性能与效率双优且有强泛化性。
表格理解新纪元！上交大等联合开源，半结构化表格问答准确率提升40%！
数据密集型工作中半结构化表格处理难，传统工具和GPT - 4o表现不佳。上海交通大学等联合开源ST - Raptor，通过VLM、HO - Tree算法和LLM推理，解决复杂表格问答问题，支持多格式，适用于多场景。
OpenAI 内部揭秘：我们如何使用 Codex
文章揭秘 OpenAI 内部使用 Codex 的情况，介绍其在理解代码、重构迁移、性能优化等多方面的应用场景，还给出最佳实践，如用‘提问模式’开始、组织好提示等，展现了 Codex 强大的开发辅助能力。
突发！字节开源 36B 模型Seed-OSS
字节跳动Seed团队开源Seed-OSS系列36B模型，用12T tokens训练，采用Apache-2.0许可证。该模型能灵活控制推理预算，有两个基座版本，Instruct版在多方面表现强劲，性能碾压OpenAI开源模型。
为什么 Coze 把他们最核心的框架都开源出来了？
Coze开源了Coze Studio和Coze Loop项目，前者工作流完整，有工作流引擎和插件框架；后者可调试、优化Prompt。采用Apache 2.0许可，适合个人和企业，还介绍了参与开源项目的方法及开源原因。
UIUC提出隐式监督新范式：无需标注/RM即可全面提升多模态Reasoning的感知能力
大型多模态模型在复杂多模态推理中面临挑战，67%错误源于视觉感知缺陷。为此，UIUC提出PAPO，通过隐式感知损失提升模型感知能力，无需额外标注，在多模态基准上表现优异，还解决了KL黑客问题。
AI编程里程碑！谷歌AI自己写代码惊呆工程师，GPU内核算法反超人类21%
谷歌AlphaEvolve的开源实现OpenEvolve自学写代码，在苹果芯片上进化出比人类快21%的GPU核函数。它自主发现多项优化策略，经多维度测试，性能显著提升，开启「AI为AI编程」新时代。
98%财务顾问依赖AI，揭秘7家先锋企业如何解锁商业新格局
OpenAI报告剖析7家前沿公司应用AI经验。如摩根士丹利评估后让98%财务顾问用OpenAI；Indeed用GPT - 4o mini优化职位匹配；Klarna用AI客服助手提升效益等，展示AI重塑企业运营的潜力。
MMAR与AudioTrust技术解读，音频大模型评测前沿进展分享 | AI Bench Talk直播预告
司南评测集社区 CompassHub 收录多维度评测集。此次 AI Bench Talk 直播聚焦音频大模型，将分享评估其深度推理能力的 MMAR 及全方位可信评估框架 AudioTrust，还设圆桌讨论多模态/音频大模型相关议题。
2 天斩获 3.5K 标星！GitHub 惊现神器！一个二进制文件把 DeepSeek V4 搬进终端
GitHub上的DeepSeek TUI项目开源两天获3.5K Star，它把DeepSeek V4模型搬进终端成编码智能体，有原生RLM并行推理等亮点，提供多种安装方式、支持多提供商，适合终端开发者。