「推理服务」共找到 2631 篇相关文章
全球AI芯片被一家味精厂卡脖子?份额超95%,英伟达也得排队抢产能
AI芯片卡脖子节点藏在供应链深处,日本味之素作为全球AI芯片封装关键材料ABF近乎独家供应商,市场份额超95%。英伟达Rubin平台对ABF需求大增,但味之素扩产受工艺良率制约。
鹏城实验室 X 中大hcp实验室推出 RADAR : 具身智能评测的新标杆
RADAR是鹏城实验室与中大hcp实验室为具身智能领域设计的评测基准,解决现有评测体系三大缺陷,通过创新设计揭示模型不足,为研究者提供方向,推动具身智能实用化。
当大家都在“养龙虾”时,阿里把生态里最大的龙虾递到了千问手里
2026年1月千问App上线点外卖、订酒店机票等服务,起初有局限,后体验改善。千问又上线“一句话打车”,接入阿里丰富生活服务生态,有望成“任务操作系统”,推动软件交互变革。
超越MLA!新架构MLRA百万token,解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时,自回归生成受限于显存带宽。为减少KV缓存开销,业界尝试多种方法,但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA,拆分KV缓存为四个并行分支,降低显存占用,实现4路张量并行,性能更优。
GPT-5.4 发布,OpenClaw的能力要被取代?OpenAI 新模型不仅会自己用电脑,编程能力也拉满了
今天 GPT-5.4 发布,整合推理、编程及原生计算机使用能力。其原生电脑操作能力提升,与 OpenClaw 竞争。还带来工具搜索降成本、减少幻觉,编程能力增强但价格也升级。
IC产量增长10.9%、换道超车……今年“两会”的“芯”消息令人振奋
2026年全国“两会”进行中,“政府工作报告”显示2025年科技创新成果丰硕,如集成电路产量增长10.9%。代表委员对半导体等建言聚焦质的飞跃,还给出芯片产业化、算力布局等“解题思路”。
三星研究院发布手机端侧大模型MeKi:基于Memory的LLM扩展新范式,支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi,提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力,实现容量与性能提升。实验显示其性能、效率表现优,为边缘部署LLM提供新思路。
清华刘知远团队论文:最小化结构改动,短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中,上下文长度成关键瓶颈,主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》,提出可切换注意力框架,为长上下文研究提供新思路。
刚完成“卖身”重组,TikTok就瘫了!Oracle 背锅:暴风雪吹坏了数据中心
近日,TikTok 美国业务重组后出现大面积瘫痪,许多用户无法上传或观看视频。TikTok USDS 称是美国数据中心电力中断所致,Oracle 回应是冬季风暴让数据中心停电,TikTok 正推进恢复工作。
走一步看一步、两三个月就迷茫一次:字节扣子的两年「创业」
字节的扣子刚完成大版本更新,定位“职场AI,就用扣子”。它过去两年像早期创业团队“野生”生长,从Bot Studio到工作流平台,再到扣子空间,如今迈向Vibe Coding,强化“伙伴”定位,值得产品创新者研究。