推理芯片」共找到 2578 篇相关文章

新闻资讯8

刚刚,微软全新一代自研AI芯片Maia 200问世

微软原定于 2025 年发布的下一代 AI 芯片 Maia 200 问世。它基于台积电 3 纳米工艺,性能强、能效高,是异构 AI 基础设施重要部分,将为多个大模型提供支持,已部署在美国中部数据中心区域。

机器之心
算法论文8

大模型「越用越快」!SpeedupLLM首次验证,大降56%推理预算

Emory大学研究者提出SpeedupLLM框架,利用动态计算资源分配和记忆机制,使LLM处理相似任务时推理成本降56%、准确率提升,论文系统性验证了LLM“越用越快”,为AI模型发展提供新思路。

新智元
算法论文8

无需验证器的RL:RLPR解锁LLM通用推理潜能

现有依赖强化学习与可验证奖励(RLVR)提升大语言模型(LLM)推理能力的方法,受限于领域特定验证器。本文提出RLPR框架,利用LLM生成正确答案的固有概率作奖励信号,实现无需外部验证器的通用领域强化学习,效果显著。

深度学习自然语言处理
新闻资讯7

曝GPT-5.5用上「全球最快芯片」,Claude慌了!

新智元报道,OpenAI的GPT - 5.3 - Codex - Spark用Cerebras的WSE - 3芯片达2000 token/秒。Cerebras CFO称在跑GPT - 5.4和GPT - 5.5,但SemiAnalysis报告指出其跑大模型有短板,且公开云模型小、上下文短。

新智元
新闻资讯7

存储芯片领域又冲出一家IPO!年入37亿

AI驱动存储“超级周期”,行业巨头提价,国内存储芯片公司股价上涨。深圳晶存科技9月底递表港交所,此前募资超7.06亿,2024年末投后估值37亿。虽净利润为正,但经营现金流持续为负,全球嵌入式存储市场市占率约1.6%。

芯师爷
算法论文8

微软:DeepSeek-R1等推理模型循环的原因找到了

前几天,DeepSeek - R1论文更新,披露诸多细节。重点是推理模型在低温/贪心解码下易循环,根源是学得不对,如风险规避式复读、时序相关错误复读,还给出解决方案。

PaperAgent
新闻资讯7

WSJ:中国AI公司用“飞行硬盘箱”规避美国芯片封锁

美国限制向中国出售先进AI芯片,中国公司想出新招,工程师带硬盘到海外数据中心训练AI,再将结果带回。企业还通过多种方式绕开封锁,同时东南亚数据中心崛起,中东也成新热点。

宝玉AI
新闻资讯8

6年量产381款芯片!华为用"韬τ定律"实现突破

5月25日,华为何庭波在ISCAS 2026演讲发表“韬(τ)定律”,以“时间缩微”替代“几何缩微”。华为6年量产381款芯片,今年秋将推麒麟2026。该定律是多层级协同体系,有望绕过高端设备封锁。

芯师爷
开源动态8

蚂蚁开源 Ring-1T,成就推理、编程、通用智能三冠王

蚂蚁开源团队推出 Ring-1T 模型,它结合强化学习与多阶段推理机制,实现从‘模仿’到‘思考’的转变。该模型在多基准测试表现优异,其高性能得益于 IcePop、C3PO++、ASystem 三项关键技术。

AI科技评论
开源动态7

DeepSeek推理再提速80%,V4正式版定档7月中旬

DeepSeek两天前开源DSpark推理加速框架,已在V4预览版在线服务跑真实流量,使生成速度提升60% - 85%。DSpark化解推测解码问题,在多模型超Eagle3和DFlash。V4正式版7月中旬上线,将引入峰谷定价。

AIGC开放社区