「推理芯片」共找到 2578 篇相关文章
穿上唐装,黄仁勋在急什么?
北京时间7月16日,黄仁勋穿唐装在「链博会」演讲。此前英伟达H20芯片获出口资格,RTX Pro芯片将在华发售。他与雷军聊AI和小米汽车,谈H20芯片、Meta抢人等话题,还称财务自由无梦想。
RL在Agentic Reasoning中的作用:拨开迷雾,看清本质
近年大语言模型在推理任务能力惊人,但使用外部工具存挑战。传统SFT无法让模型自主调用工具,强化学习虽被引入,但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习,提出有效方法。
Test Time Scaling Law远未达到上限! o4-mini仅15.8%通过率,华为诺亚提出代码HLCE终极基准
华为诺亚研究员推出全新编程基准HLCE,含235道竞赛难题。实验显示,顶级LLM在该基准表现不佳,推理模型优势大,IOI交互式题难攻克。研究还发现模型自我认知与推理能力发展不同步,Test Time Scaling Law远未达上限。
晶圆级芯片主流技术路径对比
人工智能时代算力需求爆炸式增长,与半导体工艺进步放缓矛盾凸显。晶圆级计算为算力发展开辟新路径,有Cerebras和特斯拉两种技术路线,邬江兴院士团队提出软件定义晶上系统技术,但我国该技术发展面临多重挑战。
北京芯片巨头,吸金50亿加速狂奔
AI算力需求爆发,4月30日寒武纪抛出近50亿定增计划。其此前多次募资,虽长期亏损,但连续两季盈利,股价涨幅大。当下英伟达限售,政策支持,寒武纪有望抢占市场,此次募资将完善产品矩阵。
The Batch: 860 | 美国解除对华AI芯片禁令
美国政府允许英伟达和AMD向中国供应符合出口限制的GPU,如英伟达H20和AMD MI308。此前美国曾阻止出口,此次是在黄仁勋游说后改变决定,也因中国放宽稀土永磁体出口管制。
上海又要冲出一个百亿芯片IPO
近日,瀚博半导体与中信证券签署上市辅导协议,冲刺A股科创板。其由前AMD核心技术领袖钱军、张磊创立,选差异化技术路径,已历6轮融资。当前国产GPU IPO潮起,瀚博有望借此抢占市场。
DeepSeek-R1 更新,思考更深,推理更强
DeepSeek R1 模型完成小版本升级至 DeepSeek - R1 - 0528,用户可在官网、APP 等体验,API 同步更新。该版本强化深度思考能力,在多基准测评表现优异,还改善幻觉、提升创意写作等能力。
斯坦福开源复杂推理AI Agent,融合超10种工具
传统AI助手应对复杂任务能力有限,斯坦福开源OctoTools,这一复杂推理AI Agent融合11种工具。它在16项基准测试中准确率高,能应对多领域复杂场景,框架含工具卡片、规划器等构件。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时,同样问题换说法问,模型又要重新推理。`constraint-cache`这个Python库可解决此问题,它将语义相似查询规范化为统一缓存键,实现近乎即时的重复查询响应,还避免了随机性响应问题。