「混合推理架构」共找到 3661 篇相关文章
图解Vllm V1系列5：调度器策略（Scheduler）
本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。
登顶TPC-C！数据库分布式扩展技术揭秘
阿里云PolarDB云原生数据库以超原记录2.5倍性能登顶TPC - C基准测试排行榜。本文揭秘PolarDB MySQL版多主集群（Limitless）架构与核心技术，还介绍高可用机制、性能测试结果，最后提及轻量版和列存索引应用。
万字实录：VLA 范式，具身智能的曙光与迷雾丨GAIR Live
2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。
《麦肯锡2025 AI报告》｜附下载
麦肯锡发布2025年AI报告，调查近2000家组织。虽88%企业用AI，但仅39%获实质财务回报。Agent热度高却远未量产，AI多在后端降本，红利多被高绩效企业获得，还改写企业组织架构。
万亿级思考模型，蚂蚁首次开源！20万亿token搅局开源AI
10月14日蚂蚁集团发布万亿参数思考模型Ring-1T，在多领域表现出色，推理能力直逼闭源巨头。此前已开源旗舰通用大模型Ling-1T。还介绍了训练技术创新，虽模型有不足，但开源夺冠证明‘思考力’可工程化。
生成式推荐！推荐系统新范式还是新噱头？
文章围绕生成式推荐展开，介绍其概念，探讨效果和成本问题。以Meta的GR和快手的OneRec为例，分析收益与开销，指出不同团队应用情况，认为它或带来架构革新，也提醒勿盲目跟风。
昆仑万维方汉：通用Agent是伪命题，AI Office仍有存在空间丨MEET2026
昆仑万维董事长兼CEO方汉在MEET2026提出新视角，认为Agent是可验证过程的自动化系统，擅长复制流程。其判断大模型从‘背答案’到‘背过程’跃迁，Agent先落地AI Office，重塑组织，人类成过程架构者。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
AI引发K型分化：Gemini 3 加剧技术劳动力分化，判断力为王，基础岗位将被AI完全替代，程序员也不例外
2025年11月Google发布Gemini 3，依托多模态MoE架构和“Deep Think”模式，在软件工程等领域实现推理能力质的飞跃。它使前端开发工作重心转移，重构软件工程工作流，赋能白领但带来隐患，还冲击劳动力市场，提升软件掌握门槛。