「推理能力提升」共找到 6112 篇相关文章
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
Nano-Banana 核心团队分享：文字渲染能力才是图像模型的关键指标
谷歌新发布的图像生成与编辑模型Gemini 2.5 Flash Image（Nano - Banana）热度超Grok视频生成。文章通过团队访谈，介绍其图像创作新方式、文字渲染代理指标、交错生成能力等，还对比了与Imagen差异，展望AI终极形态。
多模态扩散模型开始爆发，这次是高速可控还能学习推理的LaViDa
近期基于扩散模型的视觉 - 语言模型 LaViDa 出现，它继承扩散语言模型优点。与自回归模型不同，扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力，推理蒸馏和文本填空表现好，还能权衡速度与质量。
表格理解新纪元！上交大等联合开源，半结构化表格问答准确率提升40%！
数据密集型工作中半结构化表格处理难，传统工具和GPT - 4o表现不佳。上海交通大学等联合开源ST - Raptor，通过VLM、HO - Tree算法和LLM推理，解决复杂表格问答问题，支持多格式，适用于多场景。
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
Gemini 3 Flash 发布，多、快、好、省，Coding 能力不输大哥Gemini 3 Pro
Google DeepMind 发布 Gemini 3 Flash，成本极低。它在多项测试表现出色，速度快、效率高，代码能力超 Gemini 3 Pro，获企业客户好评，今日起向全球开发者和普通用户推送。
RL 效率无损飙升 3 倍：厦大-Shopee-清华联合首创，将投机解码首次引入 RL，推理能力稳如初！
传统RLVR训练中，rollout阶段耗时成瓶颈。厦大 - Shopee - 清华联合团队提出SPEC - RL，将投机解码引入RL，训练提速2 - 3倍，避免重复生成，与主流算法兼容，在多项基准测试中性能稳定。
跑分第一，推理暴跌！Claude Opus 4.7上线48小时口碑崩了
Claude Opus 4.7发布48小时口碑两极撕裂。官方榜单并列全球第一，但逻辑推理公开测试成绩暴跌，token消耗涨35%，旧接口报错，用户吐槽「更贵、更蠢、更爱顶嘴」，Anthropic虽解释却难平用户怒火。
图像编辑模型不止生成：BIGAI&上交大提出EAR范式，系统测试其视觉规划能力
上海交通大学联合北京通用人工智能研究院提出EAR范式，构建AMAZE基准，分析图像编辑模型视觉推理能力。研究发现模型零样本表现弱，扩散式模型更适合视觉规划，CoT效果不稳定等。
谷歌IMO金牌模型可以用了！推理性能秒了o3、Grok 4
谷歌拿下IMO金牌的模型Gemini 2.5 Deep Think已在Gemini App推出，速度更快、实用性更强。该模型仅对Ultra订阅用户开放，月费约1803元。其推理性能超o3、Grok 4，有迭代开发等优势。