「推理优化与部署」共找到 3527 篇相关文章
大模型是不是到顶了？瓶颈到底在哪
文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。
GPT-5.5全球首破！0源码盲写程序，编程AI进入新纪元
全网AI交白卷的ProgramBench编程基准，被GPT-5.5首破。它能0源码盲写程序，同一题用C和Python两种解法通过测试。相比之下，Opus 4.7表现不佳。这揭示推理算力成编程AI核心变量。
Agent接管EDA工作流，不只写脚本！浙大打通真实芯片设计闭环
大模型正以Agent形态进入真实EDA工具链。浙大卓成团队构建OpenClaw + FluxEDA联合架构，打通关键链路，解决模型操作真实EDA工具的难题，在多任务中完成连续分析与优化闭环，推动EDA工作流范式转变。
Ray异构融合底座重构数据管道：架构演进与万卡落地实践
文章指出大模型发展下，传统大数据引擎在多模态数据处理局限性凸显。腾讯基于Ray构建新一代数据管道，介绍了云原生调度与计算范式融合架构，详述容错、资源利用等方面优化实践，展示了重构收益。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。
ACL 2025 | GALLa：给代码大模型装上“透视眼”，看懂程序的“骨架”！
蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。
dLLM的「Free Lunch」！浙大&蚂蚁利用中间结果显著提升扩散语言模型
近年来，扩散大语言模型（dLLM）成为文本生成新势力，生成效率高。但现有解码策略忽视中间迭代信息，研究团队观察到「先对后错」现象，提出 TCV 和 TCR 方法，显著提升模型在推理任务表现。
如何实现RAG与MCP集成
文章聚焦RAG与MCP集成，介绍RAG突破传统模型局限及不足，引出Agentic RAG。阐述MCP革新AI工具连接方式，结合二者构建集成架构，还给出实现步骤、优化策略与代码实践，为释放AI系统潜力提供方案。
北大发布学术搜索评测ScholarSearch：难倒一众DeepResearch的“开卷考试”
北京大学DS - Lab发布ScholarSearch，这是评估大语言模型学术检索能力的数据集，含223道高难度题目。评估显示现有模型表现欠佳，纯推理模型准确率低，有搜索功能的模型虽有提升但仍不足。
超150位全球AI一线技术专家齐聚巴黎，这场大会到底聊了些什么？｜GOSIM Paris 2026圆满收官
5月6日，GOSIM Paris 2026进入第三天，议程转向技术实践。超150位全球AI专家齐聚，探讨模型推理优化、开源社区治理等。Niko Matsakis等分享前沿观点，还有五大主题论坛及工作坊，展示开源AI生态成果。