「技术问题」共找到 5568 篇相关文章
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
真正面向大模型的AI Infra，必须同时懂模型、系统、产业｜商汤大装置宣善明@MEET2026
商汤大装置副总裁宣善明在MEET2026大会分享进展，强调大模型时代AI Infra要解决算力高效支撑问题。商汤战略“1+X”，大装置有优势，算电协同成果好，还推动国产化适配，产业落地成果多。
沐曦上市背后：那些陪它穿越“死亡谷”的投资人｜甲子光年
沐曦股份在上海证券交易所科创板挂牌上市，发行价104.66元/股，上市首日高开。早期投资人陪其穿越‘死亡谷’，上市验证‘陪跑型投资’价值，也标志国产GPU进入‘资本验证期’，但仍面临生态和制程挑战。
国产算力Day 0适配，一人剧组时代到来，商汤Seko 2.0降本增效让AI短剧真正落地
商汤Seko 2.0率先实现创编一体与多剧集智能生成，通过一致性控制技术与国产算力适配，缩短漫剧制作周期。它解决了AI视频生成痛点，降低成本、提升效率，适配国产芯片，还拓展了内容生态。
马斯克猛猛带货太空数据中心！“能耗比地球香太多”
太空成AI基建新必争之地，马斯克力推太空数据中心，称其能耗比地球低。他认为AI天花板是能源问题，太空能解决能源与散热难题。美初创企业已做太空实验，国内也布局相关建设。
NBA球星，成为英伟达副总裁
本文用一张「组织透视镜」，带你看清英伟达36人的角色分工、黄仁勋的管理逻辑，以及它对AI时代公司的启发。黄仁勋以扁平化直管36位高管，减少层级，让信息流动，使公司保持创业般的冲劲。
Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。
没了遥控器，还被扔进荒野，具身智能该「断奶」了
在第五届ATEC科技精英赛上，人形机器人在户外场景状况百出，如摔倒、罢工等。专家认为过去高估其通用能力，五年内走进家庭承担家务较难。具身智能面临感知、决策、硬件等难题，但也有队伍取得成果。
10人创业团干翻行业“潜规则”！全员必须会AI、让跑大模型全程“裸奔”，谷歌老兵不烧钱创业
谷歌老兵Bryan Zhou投身AI创业，组建AnyInt团队。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”。团队一开始就奔着付费用户，还做了极致性能优化，吸引众多开发者。
Ilya 最新访谈，预训练时代终结后，AI行业来到了哪里？
Ilya接受90多分钟深度访谈，指出当前大模型泛化能力远不如人，Scaling时代终结，研究时代回归。还谈到AI经济影响与跑分不匹配、泛化能力鸿沟、情感价值等问题，预测超级智能5 - 20年到来。