「推理速度」共找到 2525 篇相关文章
The Batch：827 | Claude 4 推动代码生成能力再升级
Anthropic 发布 Claude 4 Sonnet 和 Claude 4 Opus 模型，支持“推理模式”，能并行调用工具。还发布 Claude Code 编程智能体及 SDK。两款模型输入输出能力强，功能亮点多，性能表现佳，有多种使用渠道和定价。
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
谷歌AI核爆：升级全系模型，Gemini 2.5双榜登顶！所有产品用AI重做，OpenAI如何接招？
北京时间5月21日凌晨，谷歌在I/O大会发布众多更新。模型层面，为Gemini 2.5 Pro引入新推理模型和更好的2.5 Flash；谷歌搜索推出AI模式；还亮相视频模型Veo 3等，编码助手Jules公测。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
具身智能开始“交卷”：宇树上市之后，产业和资本怎么走？｜甲子引力X
2026年8月20日，「激流——2026甲子引力X·科技产业投资大会」举行，聚焦人工智能等硬科技方向。会前一天宇树科技上市，股价波动引发对具身智能估值的讨论。会上投资人探讨了具身智能从技术到产业化的变化、拐点、资本市场走向等问题。
13.3K Star！终于有人把文档转 Markdown 这件事做好了！
AI 应用普及，企业常将不同格式文档喂给大模型，但转换工具存在诸多问题。Firecrawl 团队的开源项目 anydoc 支持 14 种格式统一转 Markdown，速度快、输出一致，还有浏览器版本保障隐私，提供多种编程接口。
让VLA真正跑上机器人：北大团队开源Jetson-PI，Jetson Orin控制频率提升8.66倍
文章聚焦让VLA模型在机器人上高效运行难题。北大等团队提出Jetson - PI方案，从异步推理算法等三层面优化，在Jetson Orin上控制频率提升8.66倍，推动具身智能向工业应用跃迁。
英伟达为何持续押注VASTData？AI存储正在成为新的“算力”｜甲子光年
AI产业曾聚焦GPU，如今数据存储设施重要性凸显。VAST Data完成约10亿美元F轮融资，估值300亿美元，英伟达持续跟投。它重构AI数据基础设施，国内焱融科技有相似技术路线且具自主可控优势。
超150位全球AI一线技术专家齐聚巴黎，这场大会到底聊了些什么？｜GOSIM Paris 2026圆满收官
5月6日，GOSIM Paris 2026进入第三天，议程转向技术实践。超150位全球AI专家齐聚，探讨模型推理优化、开源社区治理等。Niko Matsakis等分享前沿观点，还有五大主题论坛及工作坊，展示开源AI生态成果。
吴恩达：最快的团队，人人都是产品经理
吴恩达在最新编辑信中指出，AI编程工具提升开发速度后，瓶颈转移到‘决定做什么’。传统团队配比失衡，最快团队让工程师身兼PM和工程师。Claude Code团队实践与之相符，AI时代人人应成通才。