「并行问题解决」共找到 4432 篇相关文章
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
不用递归自动微分，也能稳定计算高阶 PDE 导数？ Mollifier Layers 如何改造 PDE 反问题学习
本文介绍《Mollifier Layers: Enabling Efficient High-Order Derivatives in Inverse PDE Learning》，指出传统PINN递归自动微分计算高阶PDE导数有瓶颈，Mollifier Layers用解析卷积替代，实验显示其在精度、效率上有优势，也有核选择等局限。
OpenAI携手五巨头开源革命性超算协议：一举解决超大集群LLM训练不稳定和网络性能难题
OpenAI联合英伟达等五巨头推出超算开放网络协议MRC并正式向行业开放。MRC目标是性能可预期，有多平面网络、自适应包喷射、SRv6源路由三大核心机制，已在OpenAI多台超级计算机上部署。
强化学习+MCP=王炸？开源框架教AI在MCP中玩转工具解决任务，实测效果超越GPT！
科技公司OpenPipe提出全新开源强化学习框架MCP·RL，只需一个MCP Server地址，agent就能自动发现工具、生成任务，在闭环反馈中摸索出最优调用策略，实测在2/3的benchmark上达或超SOTA性能。
当国产模型追上闭源旗舰，企业 AI 编程的真正障碍才浮出水面
过去企业AI Coding讨论多集中在模型能力等方面，DeepSeek V4出现缓解了模型问题，但更深层的代码库业务隐知识等问题浮现。合规限制使企业工具建设受阻，V4打破了模型供应瓶颈，可组织知识管理仍成难题。
“我可能不再建议学计算机”！图灵奖得主炮轰半个行业，并断言：AI Agent最后全是数据库问题
图灵奖得主 Mike Stonebraker 在访谈中称，若重新开始，不确定是否建议 18 岁的人学计算机，他认为计算机科学未来或不再是增长型行业。他还炮轰 Oracle、Google、AWS 等公司的数据库方案，对 AI Agent、大模型写 SQL 等发表看法。
Attention真的可靠吗？上海大学联合南开大学揭示多模态模型中一个被忽视的重要偏置问题
上海大学曾丹团队联合南开揭示Vision - Language Models中普遍的attention偏置问题，提出无需重训的去偏方法，在多模型、策略及基准上验证有效性，为多模态模型部署提供新思路。
分钟级定位 IO 瓶颈：多租户云环境下的智能诊断
随着云上规模扩张，多租户云环境下 IO 请求量剧增，IO 问题排查难。阿里云操作系统控制台构建 IO 一键诊断能力，能快速识别问题类型、把握诊断时机、屏蔽复杂关联流程，还介绍了实现原理和案例。
腾讯发布SpecExit算法，无损压缩端到端加速2.5倍！解决大模型长思考效率难题
腾讯发布 SpecExit 算法，将思考早停与投机采样融合，利用轻量级草稿模型预测“退出信号”，在不引入额外探测开销的前提下，实现动态、可靠的思考早停，在 vLLM 上推理端到端加速 2.5 倍，准确性和推理效率得到双重保障。
语音分离最全综述来了！清华等团队深度分析200+文章，系统解析「鸡尾酒会问题」研究
清华等多校及字节跳动研究者全面调研语音分离领域，撰写综述论文，分析200余篇代表性论文。从问题定义、学习范式、模型架构等多维度展开，还探讨评估指标、数据集等，指出未来挑战与探索方向。