国产推理芯片」共找到 2874 篇相关文章

算法论文8

这个推理模型:HRM ,只用2700万参数,超越了DeepSeek和Claude

Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM,它是全新循环架构,仅2700万参数、1000个训练样本,就在复杂推理任务上表现卓越,还引入近似梯度等方法,有推动通用计算变革潜力。

AINLPer
算法论文8

强化学习新发现:无需数学样本,仅游戏训练AI推理大增

莱斯大学、约翰斯・霍普金斯大学和英伟达研究团队有颠覆性发现,让多模态大语言模型玩简单游戏,无需数学样本,就能显著提升其多模态推理能力。提出的ViGaL方法在多个基准测试中表现出色。

机器之心
开源动态8

微软开源新版Phi-4:推理效率暴涨10倍,笔记本可运行

今天凌晨微软官网开源Phi - 4家族最新版Phi - 4 - mini - flash - reasoning,它参数小性能强,适合边缘设备。采用自研SambaY架构,推理效率涨10倍,延迟降2 - 3倍,多场景测试表现优异。

AIGC开放社区
开源动态8

103K「硬核」题,让大模型突破数学推理瓶颈

现有大语言模型在数学推理训练时面临数据瓶颈,腾讯AI Lab与上海交大团队推出DeepMath - 103K数据集。它规模大、难度高、数据新颖、严格去污染,让DeepMath系列模型达SOTA,还能实现推理泛化。

机器之心
产品应用8

Claude封锁中国,腾讯带着国产AI编程工具CodeBuddy来了

Claude封锁中国背景下,国产代码模型加速发力。腾讯CodeBuddy上线,其IDE和CLI有新特性。InfoQ采访团队,探讨定位、技术等思考,国产模型与工具、生态形成“模型—工具—生态”链路。

InfoQ
新闻资讯7

英伟达重返中国!6月大量生产特供AI芯片,价格暴降40%

路透社消息,英伟达为突破美出口限制,将为中国推特供AI芯片,6月量产,价格降40%。该芯片基于RTX Pro 6000D,简化设计以控成本和符合管制。虽计算力低,但CUDA生态有优势。

AIGC开放社区
新闻资讯7

刚刚!Thinking Machines Lab | 长文揭开LLM推理不确定性真相!

Thinking Machines Lab发布《克服LLM推理中的不确定性》,揭示大语言模型推理不确定性原因,并非“并发 + 浮点”假设那么简单,主要是负载及batch size不确定所致,还给出让核函数有批次不变性的方法及实验结果。

AINLPer
新闻资讯7

黄仁勋提前锁定20年OpenAI芯片收入!第一轮150万GPU卖2000亿美元

英伟达推出‘LPS’概念,联合投资机构出5000亿美元建数据中心,为客户担保。首个项目为在美为OpenAI建150万GPU数据中心,20年或带来巨额芯片收入。黄仁勋也对相关风险做了澄清。

量子位
新闻资讯7

4.8亿美元砸向端侧算力!Agent芯片新贵冲出重围

成立不到三年的Acrab成亚洲AI芯片新贵,累计融资超4.8亿美元,新资金用于扩产、拓展生态及研发下一代平台。该司押注端侧算力,发布芯片GΞLIX 1和Agent Box,其产品进入量产验证。

量子位
算法论文8

跳过88%专家,保住97%性能!MoE推理的正确玩法| CVPR’26

多模态大模型走向大规模,MoE架构虽降低计算开销,但推理成本仍高。香港科技大学等团队提出MoDES,它是training - free动态专家跳过框架,能跳过88%专家还保留97%性能,推理速度提升2倍。

新智元