「模型调度」共找到 7736 篇相关文章
Ollama升级模型调度系统：内存管理更精准，多GPU性能提升
Ollama升级模型调度系统，精确测量运行模型所需内存，带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升，更多模型正迁移，还在开发iGPU支持，评估NPU支持。
大模型推理也能“智能调度”：让奖励模型按需分配算力的动态路由机制 | ACL 2026
生成式奖励模型（GRM）推理策略存在算力浪费问题。腾讯混元与新南威尔士大学联合提出 E - GRM 框架，将模型不确定性定义为调度信号，按需推理。文章从多维度解读该框架，并展示实验评估结果。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
国产开源模型越多，模型路由的机会越大
中国大模型市场模型增多，能力相近、价格降低且部分开源。开发者选择多但企业选模型难，价值向调度层转移。开源改变产业结构，Routing业务有价值且至少含四层，中国Provider Routing易落地。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。
首次！世界模型、动作模型融合，全自回归模型WorldVLA来了
阿里巴巴达摩院提出全自回归模型 WorldVLA，首次融合世界模型与动作模型，统一文本、图片、动作理解和生成。它用独立编码器处理多模态数据，还提出策略解决误差累积问题，实验表现优异。
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。
让大模型“吃一堑长一智”，南理工百度等提出模型记忆新方法
南京理工大学联合百度等提出新方法ViLoMem，构建视觉流+逻辑流的双流语义记忆，让模型“从错误中学习”。它能在多模态基准提升模型表现，强模型记忆还可迁移给小模型。
阿里 Qwen 又双叒发模型，继基础、编程模型后，最强推理模型 Qwen3 Thinking 登场，击败Gemini 、R1？
阿里通义千问发布最强推理模型 Qwen3-235B-A22B-Thinking-2507，逻辑、通用技能等能力更强，原生支持 256K 上下文。此前已发布基础和编程模型，Qwen API 在 OpenRouter 表现佳，受社区关注。
端到端语音模型：从语音表征到模型架构
本文整理自阶跃星辰语音模型负责人杨学锐在2025年QCon全球软件开发大会的分享。介绍大模型对语音技术的重塑，涵盖识别、合成等方面；阐述端到端语音模型构建，涉及表征、架构、训推和任务；还提及模型评估方法。