「扩展计算」共找到 1086 篇相关文章
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
一起聊聊Nvidia Blackwell新特性之低比特GEMM
本文是NVIDIA Blackwell架构GEMM研究系列文章第三部分，介绍低精度计算，探讨Blackwell GEMM如何执行，关注6位和4位格式及对内存布局影响。还提及低精度优势、数据格式、UMMA实现、操作限制、CUTLASS抽象方式等。
手机上实现AI视频实时生成，DiT模型上移动端
扩散变换器在视频生成任务性能强，但计算成本高，在手机上难实用。Snap提出创新优化法，加速视频生成，能在iPhone 16 Pro Max上每秒超10帧，不过也存在细节退化等局限。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
北大团队发布首篇大语言模型心理测量学系统综述：评估、验证、增强
随着大语言模型（LLM）能力迭代，传统评估方法难满足需求。北大宋国杰教授团队论文首次系统梳理LLM心理测量学研究进展，革新评估原则，扩展测量构念与方法，还给出增强方法与未来研究方向。
AI编码新神登基，藏师傅一手Claude 4实测
Claude 4低调发布，Anthropic称Claude Opus 4是全球最佳编码模型。发布内容含扩展思维、新模型能力等，还公布定价。Claude Opus 4编码和记忆能力强，实测表现出色，Claude Sonnet 4也有提升且免费。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。