搜索：推理模型瓶颈

「推理模型瓶颈」共找到 8450 篇相关文章

空间智能新高度：港科大谭平团队SAIL-Recon突破万帧级图像大规模3D场景重建Transformer

香港科技大学谭平教授团队与地平线团队发布3D场景表征与大规模重建新方法SAIL - Recon，突破现有模型处理能力瓶颈，可实现万帧级场景表征抽取与定位重建，在多数据集上表现优于现有方法。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

文章介绍字节跳动的Seed1.5-VL模型，它能精准抽取复杂图表，处理模糊图片、推理几何题。其由视觉编码器和LLM组成，预训练语料丰富，后训练结合多种方法，推荐在huggingface体验。

大型语言模型在专业领域表现不佳，传统微调方法成本高、易过拟合。腾讯优图实验室提出Training - Free GRPO，无需更新参数，通过上下文学习提升性能，成本低且泛化性好，是传统强化学习有力替代。

OpenAI首席科学家访谈时被要求禁止透露重要员工名字，因Meta常挖人。GPT - 5将发布，奥特曼谨慎应对。此外，还介绍了OpenAI研究方向、瓶颈，以及其他公司在挖人大战中的举措。

大语言模型在开放域问答中有‘幻觉’问题，GraphRAG结合LLM与知识图谱缓解此问题，但现有方法有缺陷。作者提出‘推理并构建’新范式和Relink框架，实验显示其性能领先，对RAG系统设计有启示。

OpenAI 发布 GPT - 5，它未带来 AGI 相关的震撼升级，而是更注重实用。其训练有新特点，具备推理强、编程能力提升等特性，是 AI 从‘模型炫技’到‘产品体验打磨’转变的标志。

AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。

深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。

OpenAI首席营收官Denise Dresser给员工的内部信被泄露，信中透露Q2企业业务方向，还贬低对手Anthropic，称其300亿年化营收虚高80亿。此外，还提及OpenAI未来计划，如推新模型Spud、与Amazon合作等。