「国产推理芯片」共找到 2874 篇相关文章
“光靠人盯不住了”!拆解上万张晶圆,这家公司靠AI将芯片良率提升数个百分点
喆塔科技创始人赵文政称国内跑通AI的半导体工厂少,工业AI尚处发展阶段。喆塔将DeepSeek接入自研大模型,提升训练效率。还分享了团队实例,强调工业AI决胜点在行业知识。此外,介绍了喆塔切入AI领域的过程、应用成果、面临挑战及未来策略等。
比肩英伟达H20!阿里自研PPU浮出水面
1月29日,阿里旗下平头哥官网公布高端AI芯片“真武810E”信息,标志“通云哥”协同体系亮相。该芯片全栈自研,已服务超400客户。其PPU架构性能比肩英伟达H20,性价比更高,阿里还支持平头哥探索独立上市。
「Thinking with Images」推理速度太慢?「Zooming without Zooming」 让AI不调用工具也能「明察秋毫」!
上海交通大学与蚂蚁集团联合团队发布多模态大模型成果“Zooming without Zooming”。该研究提出R2I方法,将“缩放”转为训练目标,使模型单次前向传播实现细粒度感知,团队开源的ZwZ模型家族达开源SOTA性能。
从数据分布视角,重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链(CoT)推理。指出CoT并非真正推理,而是模仿,其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化,提醒勿过度依赖。
AI算力饥渴和高能耗困局谁来解?两位95后创始人用相变材料光计算构建新范式
AI算力供需失衡致数据中心能耗激增,传统电芯片性能提升放缓。光本位科技由两位95后创立,2024年6月流片全球首颗128×128矩阵规模光计算芯片,推动光计算商业化,正布局产品商用。
刚刚,国产视频模型登顶全球第一!给谷歌Veo上了一课,还把钱给挣了
国产视频生成模型SkyReels V4在第三方榜单中登顶全球第一,压过谷歌Veo 3.1等。它能力强大,解决视频AI老毛病,支撑昆仑万维短剧平台DramaWave,构建了完整AI生态闭环。
Mini-SGLang,30万行代码浓缩为5000行,大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang,将30万行代码缩至5000行,保留核心特性,为大模型推理提供高性能教学与研究模版,解决教育门槛高和科研原型开发难的痛点,还经测试验证了性能。
上海AI Lab发布混合扩散语言模型SDAR:首个突破6600 tgs的开源扩散语言模型
上海人工智能实验室提出全新范式SDAR,通过‘训练 - 推理解耦’融合AR模型高性能与扩散模型并行推理优势。实验证明,SDAR性能与原版AR模型持平或超越,还能加速推理,且已全面开源全系列模型。
英伟达H20,一个备胎的命运
8月22日消息称英伟达暂停H20芯片生产。H20自2023年底推出就备受争议,性能阉割、或有“后门”等问题不断。英伟达忙着开发新芯片,H20不到两年或“寿终正寝”,本文以其口吻写自白信。
地球级AI智能体爆诞!谷歌地球开外挂,一夜为20亿人洪水预警
谷歌结合世界建模经验与Gemini推理能力,升级Earth AI。它是地理空间AI模型和数据集,可自动连接不同地球AI模型。谷歌还推出新成果,如新一代影像与人口基础模型、空间推理智能体,可用于灾害预警等。