搜索：推理步数灾难

「推理步数灾难」共找到 2132 篇相关文章

谷歌AI核爆：升级全系模型，Gemini 2.5双榜登顶！所有产品用AI重做，OpenAI如何接招？

北京时间5月21日凌晨，谷歌在I/O大会发布众多更新。模型层面，为Gemini 2.5 Pro引入新推理模型和更好的2.5 Flash；谷歌搜索推出AI模式；还亮相视频模型Veo 3等，编码助手Jules公测。

本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。

第三方评测机构Roboflow测试显示，GPT-5.6 Sol在目标检测、计数等视觉任务上表现出色，尤其在文档版面识别和密集场景处理上进步明显，但认字能力有退步，且大尺寸图片检测框易飘移。

WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。

文章聚焦让VLA模型在机器人上高效运行难题。北大等团队提出Jetson - PI方案，从异步推理算法等三层面优化，在Jetson Orin上控制频率提升8.66倍，推动具身智能向工业应用跃迁。

AI产业曾聚焦GPU，如今数据存储设施重要性凸显。VAST Data完成约10亿美元F轮融资，估值300亿美元，英伟达持续跟投。它重构AI数据基础设施，国内焱融科技有相似技术路线且具自主可控优势。

何恺明团队推出全新连续扩散语言模型ELF，不走GPT自回归老路。它将生成过程留在连续embedding空间，最后离散化变回token。ELF用较少参数、训练token和采样步数，跑赢主流扩散语言模型。

5月6日，GOSIM Paris 2026进入第三天，议程转向技术实践。超150位全球AI专家齐聚，探讨模型推理优化、开源社区治理等。Niko Matsakis等分享前沿观点，还有五大主题论坛及工作坊，展示开源AI生态成果。

Lovart上线Image 2，有去AI味的写实感、强大文字生成与泛化推理能力，完爆Nano Banana 2。它结合独家工作流，带来设计体验飞升，还给出五个使用场景案例，并对比了与Claude design的差异。

Anthropic与谷歌、博通合作打造3.5 GW TPU集群，预计2027年上线。其年化收入破300亿美元首超OpenAI，客户呈指数级增长。但训练和推理成本高，与OpenAI都在冲刺IPO，竞争激烈。