「昇腾910B」共找到 841 篇相关文章
华为曝光两大黑科技！打破推理延迟魔咒，大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新，对MoE模型进行推理优化。FusionSpec依托昇腾特点，将投机推理框架耗时降至1ms；OptiQuant支持灵活量化，为大模型推理提供高性价比。
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。
让VLM学会「心中有世界」：VAGEN用多轮RL把视觉智能变成「世界模型」推理机器
当前VLM智能体面对复杂视觉任务表现不佳，美国西北大学等机构联合研究成果VAGEN，提出创新强化学习框架，奖励正确思考过程，让VLM在行动前构建内部世界模型，效果超多款闭源大模型。
首创双NPU架构一鸣惊人！联发科天玑9500重磅加码主动式AI体验
联发科天玑9500首创超性能+超能效双NPU架构，让AI始终在线，融入用户操作。其输出性能、上下文窗口等有显著提升，还解决了模型加载慢等问题，与多厂商合作推动端侧AI落地。
时隔多年，AI芯片又是华为发布会主角了
华为全联接大会上，轮值董事长徐直军带来全球最强算力超节点和集群。公布昇腾、鲲鹏芯片未来2年演进规划，还开创灵衢互联协议。虽单芯片受限，但集群层面有望实现超越。
Qwen2.5VL新玩法，看电影讲故事
本公众号关注AI前沿技术，分享实战案例与课程。介绍视觉叙事技术及挑战，基于Qwen2.5 - VL 7B模型微调Qwen Storyteller，构建StoryReasoning数据集，还给出实战代码及相关链接。
CUTLASS CuTe GEMM细节分析（一）——ldmatrix的选择
作者作为CUTLASS CuTe初学者，记录问题分析过程。本文聚焦如何基于TiledMMA及输入矩阵在Shared Memory上的Layout选合适Copy Operation完成拷贝，结合实例讲解ldmatrix指令选择，还给出参考代码。
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。
英伟达GPU全系列硬核科普手册：一文读懂NVIDIA芯片的定位、规格与应用场景
这是英伟达GPU全系列硬核科普手册，覆盖消费级、工作站、推理卡、训练卡及中国特供版五大产品线，讲清区别与用法，还介绍架构演进、命名规则等，助读者秒变选型高手。
性能飙升42%！人大&字节开源10万级 SWE数据集 Scale-SWE
近期，人大和字节开源10万级软件工程数据集Scale - SWE，用首创工作流从GitHub构建真实数据。基于此微调的Qwen3 - 30A3B - Instruct模型测试表现佳，其数据相比合成数据优势明显。