「Next-Token推理」共找到 2538 篇相关文章
黄仁勋三次断言翻车！CUDA护城河，被谷歌一行代码凿穿
本文是新智元报道，基于SemiAnalysis的第三方测试，谷歌第七代TPU Ironwood推理性价比大幅领先英伟达最新B200、B300，谷歌通过软件重构打破CUDA护城河。
字节开源了一款多模态神器！BAGEL上线，超越Qwen2.5-VL，媲美SD3！
多模态AI发展进入新阶段，字节跳动开源通用多模态大模型BAGEL。它支持多模态输入输出与思维链推理，性能超Qwen2.5 - VL等，安装使用友好，有多种应用场景。
当黄仁勋反复提起OpenClaw，他到底在焦虑什么？｜甲子光年
美国当地时间3月18日，「甲子光年」参加英伟达黄仁勋在GTC 2026的媒体会。黄仁勋多次提及OpenClaw，认为它很重要。英伟达不仅造GPU，还构建AI工厂，试图成为新计算秩序定义者。
1200行代码逆袭！DeepSeek工程师开源轻量级vLLM，吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日，DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM，代码仅 1200 行，基准测试中吞吐量逼近原版，项目已在 GitHub 获 200 多 Star。
一个月重写三次代码库、三个月就换套写法！吴恩达：AI创业拼的是速度，代码不重要
吴恩达在 Y Combinator 演讲分享创业心得，指出执行速度是创业成败关键，创业者最大机会在应用层，介绍提速方法，还回应 AGI 炒作、token 成本等问题。
DeepSeek开源的文件系统，是如何提升大模型效率的？
2月28日，DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势，深入解读3FS的组件、CRAQ协议等，还探讨其与其他系统差异及性能相关问题。
Pony Alpha新模型炸场！全球「猜爹大赛」开启
2月7日深夜，OpenRouter悄悄上线匿名模型Pony Alpha，其编程、推理等体验出色，外网瞬间疯传。全球开启‘猜爹大赛’，Claude、DeepSeek、Grok、GLM各派开吵，还凸显了‘匿名盲测式发布’新打法。
Cloudflare推出Markdown for Agents：AI抓取网页的方式彻底变了
Cloudflare推出Markdown for Agents功能，允许网站在服务器端将HTML实时转为Markdown。传统AI处理网页内容耗资源、费token，此功能可节省80%。开发者可升级抓取逻辑，还有实用工具markdown.new。
Claude Sonnet 4.5发布，多领域性能超越GPT-5和Gemini 2.5 Pro
Anthropic发布Claude Sonnet 4.5，是目前最强编程模型，在多领域性能超GPT - 5和Gemini 2.5 Pro。操作电脑、数学推理能力提升，产品更新功能丰富，安全性增强，价格不变，获多家公司认可。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。