「并行加速」共找到 824 篇相关文章
ParScale：一种全新的大模型Scaling Law
文章提出并行扩展（ParScale）路线，在不增模型参数下，通过引入并行流提升性能。新扩展定律打破传统范式，两阶段后训练策略降成本，还适用于边缘设备，研究仍在进行。
让大模型异步地增强推理能力
在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。
AI 医疗全景更新：为什么硅谷 healthcare 领域出现了最多的 AI 独角兽？
本文基于对全美700余位医疗行业高管的调研及关键人物访谈，梳理AI医疗落地路径与商业化逻辑。指出医疗行业正推动AI商业化，投资增长催生独角兽，落地呈现“非线性加速”，还介绍了投资格局、应用场景等情况。
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
Claude Code 团队的 10 个内部技巧，但你不一定都要学
Claude Code团队分享10条内部技巧，像并行运行、Plan Mode等。介绍各技巧做法、价值及注意点，如并行运行虽提升效率但非适合所有人，投资CLAUDE.md性价比高，且强调找到适合自己的使用方式。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
吴恩达：AI 将最先杀死前端
AI 对程序员的影响引发热议，吴恩达在 Newsletter 中给出加速排序：前端 > 后端 > 基础设施 > 科研。他认为前端开发被加速最厉害，后端需更多人工引导，基础设施和科研领域 AI 作用有限。同时指出初级、缺乏协作和创造性的工作易被取代。
“AI 在一线：开发人员如何重塑软件开发流程” ｜圆桌讨论
文章是关于“AI在一线：开发人员如何重塑软件开发流程”的圆桌讨论，多位嘉宾分享了AI辅助工具对软件开发的影响，包括加速原型设计、缩短项目时间等，也提到了局限性和需注意的问题，如信任和度量标准。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups，它让开发者创建和管理能同步通信的线程组，为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现，还对比不同归约求和方法及性能。