「推理服务基础设施」共找到 2948 篇相关文章
Nature重磅！清华团队揭秘大模型新规律：告别参数内卷，智能密度每3.5个月翻一番
清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。
真正能离线跑的完全开源翻译工具
Argos Translate是用Python写的开源离线翻译引擎，底层靠OpenNMT，推理用CTranslate2。可当库、命令行、桌面软件用，模型是本地zip包，不联网也能用。支持主流及小众语言，有多种使用方式。
6款小游戏难倒所有顶级VLM！愤怒的小鸟让它们全军覆没，性能不如随机猜测
淘天集团未来生活实验室提出首个系统性评估多模态大模型（VLM）交互式物理推理能力的综合基准DeepPHY。它集成六个物理环境，对17个主流VLM测试，揭示其在物理交互等方面短板。
英特尔连环炸：CTO被OpenAI挖走、中国区架构大调！陈立武亲自下场扛AI，称“不再提供空白支票”
近日，英特尔CTO兼AI负责人Sachin Katti离职加盟OpenAI，他负责搭建计算基础设施。此前其部门未达营收预期，英特尔多位高管出走。CEO陈立武亲自领导AI业务，还推进改革和中国区架构调整。
从VLA到RoboOmni，全模态具身新范式让机器人察言观色、听懂话外音
复旦大学等联合推出全模态端到端操作大模型RoboOmni，统一多模态，实现动作与语音协同控制。它重新定义机器人交互范式，让机器人具备“察言观色”能力，还构建了OmniAction数据集，实验表现全面领先。
与DeepSeek-OCR不谋而合，NeurIPS论文提出让LLM像人一样读长文本
NeurIPS 2025 论文提出 VIST 框架，为大语言模型长文本推理提供视觉方案，与 DeepSeek - OCR 理念不谋而合。它模仿人类阅读，有快 - 慢路径协作，在多任务表现优，还让模型‘用眼看文字’，优势明显。
3A大作！阿里ROLL团队从基建->算法->机理，推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架，推动「强化学习用于大语言模型（RL4LLM）」迈向新范式。Async架构提升GPU利用率，AsyPPO降低计算资源消耗，Attention机制提升训练效率与可解释性。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
别再只关注KV Cache了! LLM稀疏性新洞察：为何模型越深越稀疏？UNCOMP从矩阵熵给出答案
团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。
堪比金条，存储迎来三十年未见的涨价潮
全球存储现缺货涨价潮，由云服务供应商采购推动。自2025年3月起，存储产品价格持续上涨，预计开启数年“超级周期”。AI火热与原厂技术迭代催化涨价，内存条成“理财佳品”，也催生“国产替代”需求。