「并行思考」共找到 862 篇相关文章
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。
21 页 PDF 实锤 Grok 3“套壳”Claude？Grok 3 玩自曝，xAI工程师被喷无能！
网友 GpsTracker 爆料，xAI 公司的 Grok 3 在“思考模式”下自称是 Anthropic 公司的 Claude 3.5。多种模式测试显示异常回应仅在“思考模式”触发，21 页 PDF 记录也证实其“自曝”。此事引发热议，有人吐槽预训练团队水平差。
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups，它让开发者创建和管理能同步通信的线程组，为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现，还对比不同归约求和方法及性能。
让LLM不再话痨，快手HiPO框架来了
当前LLM存在‘过度思考’困境，效率与成本矛盾突出。快手与南大合作推出HiPO框架，通过混合数据冷启动和混合强化学习奖励系统，让模型能自主决策思考模式，实验显示它提升了效率和准确率，还具强泛化性。
写Verilog、调CUDA，总翻车？工业代码大模型开始学会「先想后写」了
工业代码大模型缺的往往是‘想’的能力。北航联合多家单位提出的InCoder - 32B Thinking，让模型结合工业环境思考，通过ECoT从错误中学习，用ICWM提前预判结果，还能自适应思考深度，且模型与代码已开源。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
实证：现在的LLM根本不会Reasoning！
论文指出当前大推理模型（LRM）如DeepSeek - R1等可能只是在表演“思考秀”，遇到复杂问题就崩溃。研究者用4个可控谜题测试，有三大颠覆发现，还揭示思考过程的荒诞现象，直指行业痛点并给出发展方向。
扩散语言模型深度思考
作者探讨扩散语言模型（dllm），认为其建模方式或冲击AR。团队在AAAI报告介绍多项工作，还整理当前diffusion问题及观点，如推理架构、词表、优化范式等，并附项目网站和agent demo。
AI原生数据库的思考
文章围绕AI原生数据库展开，分析企业应用大模型的问题，指出AI场景驱动数据库新工作负载。探讨AI数据库变与不变、实现路径，介绍原生混合搜索、现代数据架构、数模融合等，还提及seekdb的发布、定位、优势与不足。