「AI推理芯片」共找到 11312 篇相关文章
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日，腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行，适用于低功耗场景。模型具备推理快、性价比高特点，亮点是Agent和长文能力，已在腾讯多业务应用。
图解Vllm V1系列5：调度器策略（Scheduler）
本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。
GPT-5七月上线？内部爆料+奥特曼疯狂暗示，自曝前方时刻「令人恐惧」
近日，多方消息显示OpenAI可能7月发布GPT - 5，奥特曼也确认o3 pro快来了。人们对GPT - 5期待颇高，猜测其能力有提升也有局限。奥特曼访谈透露AI会带来多方面变化，应服务个人意志。
谷歌卷土重来：你大爷还是你大爷
上周谷歌横扫科技媒体头条，英伟达官方X账号点赞谷歌TPU成绩后话锋一转称自家产品领先。此前有传闻Meta考虑换用谷歌TPU，消息致英伟达市值蒸发、谷歌市值上涨。今年谷歌发布Gemini - 3系列模型，其自研芯片TPU引发关注。
多模态需求井喷，智能视频云如何靠分布式处理破局？
国内多模态AI发展中，模型层火热但应用层落地慢。多模态应用落地面临体验升级、视频化扩展、大模型部署下沉挑战，催生智能视频云升级需求。火山引擎在FORCE大会展示分布式多媒体处理实践，推出MIPP平台，未来将开源并推商业化产品。
万字实录：VLA 范式，具身智能的曙光与迷雾丨GAIR Live
2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。
多快好省，Qwen3混合部署模式引爆MCP
文章介绍Qwen3混合部署模式在MCP中的应用。MCP是AI与外部交互的标准协议，解决传统问题。Qwen3性能强、成本低，有混合思维等特点。通过本地小尺寸和满血版结合部署，实现多快好省，但仍有资源消耗等不足。
ECCV 2026｜不靠「上帝视角」，也不等「完美指令」：REAL 让具身智能体走向开放世界
上海交大与上海AI实验室团队的研究，针对当前具身智能依赖理想化环境与指令假设的痛点，提出REAL框架，统一主动探索、意图消歧与执行为闭环，支持零样本迁移至真机，已开源代码并被ECCV 2026接收。
只用国产GPU训练的大模型性能飙升100%！国内唯一，更懂你
科大讯飞发布全国产算力训练的讯飞星火X1.5，推理效率暴涨100%，综合性能跻身全球顶级。还首发非自回归语音大模型架构，效果提升、成本降低。此外，展示多领域应用成果，发布相关产品，开源智能体平台。