「分布式推理系统」共找到 3598 篇相关文章
当黄仁勋反复提起OpenClaw，他到底在焦虑什么？｜甲子光年
美国当地时间3月18日，「甲子光年」参加英伟达黄仁勋在GTC 2026的媒体会。黄仁勋多次提及OpenClaw，认为它很重要。英伟达不仅造GPU，还构建AI工厂，试图成为新计算秩序定义者。
1200行代码逆袭！DeepSeek工程师开源轻量级vLLM，吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日，DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM，代码仅 1200 行，基准测试中吞吐量逼近原版，项目已在 GitHub 获 200 多 Star。
截击英伟达！OpenClaw狂吞Token，北大系芯片黑马剑指2000 Tokens/s
NVIDIA GTC 2026前夕，AI推理赛道竞争激烈。北大系寒序科技宣布融资，首颗样片测试跑通，单位面积带宽达100GB/s/mm²，下一代「MRAM+SRAM」架构目标2000 Tokens/s，挑战英伟达。
黄仁勋：龙虾就是新操作系统！英伟达7种芯片拼出算力怪兽，放话2027营收万亿美元
英伟达GTC 2026上，黄仁勋回顾发展历程后预计2027年营收至少达1万亿美元。介绍Token工厂经济学，推出Vera Rubin系统，还谈及OpenClaw，断言企业IT逻辑将改写，也预告了Feynman架构和太空数据中心。
Sam Altman ：GPT-6已经在路上，DeepSeek是OpenAI开源重要因素
Sam Altman称GPT-6已在路上，节奏比GPT4到GPT5间隔更快，记忆是其重要方向。他还认为美国低估中国AI，像DeepSeek等中国开源系统是OpenAI开源重要因素。
逆向工程：ChatGPT 的记忆是如何工作的
文章是工程师eric对ChatGPT记忆系统的深度逆向工程和技术实现推测，详细拆解‘可保存记忆’和‘聊天历史’，分析工作原理、实现方案，探讨其对提升用户体验的作用，认为‘用户洞察’是关键。
Pony Alpha新模型炸场！全球「猜爹大赛」开启
2月7日深夜，OpenRouter悄悄上线匿名模型Pony Alpha，其编程、推理等体验出色，外网瞬间疯传。全球开启‘猜爹大赛’，Claude、DeepSeek、Grok、GLM各派开吵，还凸显了‘匿名盲测式发布’新打法。
AI五小时发现MoE新算法，比人类算法快5倍，成本狂降26%
加州大学伯克利分校团队提出ADRS系统研究方法，基于OpenEvolve框架优化算法。以EPLB算法为例，新算法比人类算法快5倍，成本降26%，且Nature也报道过AI创造新算法新闻。
免训练加速61倍！陈怡然团队新作DPad：仅关注「彩票token」
杜克大学陈怡然团队新作DPad，发现扩散大语言模型关注少量「中奖」token，推理速度可提61 - 97倍，还增强模型语境学习能力。DPad免训练零成本挑关键信息，实现「少算多准」。
实时语音翻译
Sokuji 是跨平台桌面应用，用 OpenAI、Google Gemini 等 API 提供实时语音翻译。支持多系统，有桌面版和浏览器插件，适配会议场景，还具备音频可视化、虚拟音频设备等特色功能。