「模型调度系统」共找到 8705 篇相关文章
Nanbeige4.2-3B：探索通用Agent小模型
在模型越做越大的当下，推理成本成了影响Agent大规模使用的关键因素。南北阁实验室推出Nanbeige4.2 - 3B，在架构、数据构造和训练pipeline层面做了系统工作，评测表现良好，还探索本地个人助手等应用。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
阿里云CIO首次系统复盘：大模型落地的RIDE方法论与RaaS实践突破
阿里云智能集团 CIO 蒋林泉分享大模型落地实践，介绍了阿里云在翻译、智能外呼等场景的应用案例，提出 RIDE 方法论，包括重组组织、识别机会、定义指标和推进执行，还分析了翻译和 Agent 模式的要点。
一个模型场景通吃！它石智航AWE3.7的泛化能力有点狠
长期以来，机器人系统多依赖专有模型，场景变化时需重新训练。如今具身智能步入下半场，它石智航通用具身大模型AWE3.7用同一颗“具身大脑”贯通多场景，回应了通用泛化命题。
Meta发最强模型打响价格战，小扎对谷歌贴脸开大！北大校友立大功
九月刚过3天就有五个前沿模型发布，Meta发布Muse Spark 1.3踢馆谷歌Gemini 3.8 Flash。它跑分提升大、成本低，性价比高，但也遭质疑，大模型下半场或比拼系统架构和智能体工程能力。
Midjourney正式推出 V1 视频模型：美学细节无敌
Midjourney推出视频生成模型V1，主打高性价比、易上手。采用“图像转视频”工作方式，有两种动画和运动幅度设置。入门价每月10美元，任务成本低，未来一月或调价格，目标是实现实时交互开放世界模拟系统。
大模型最难的AI Infra，用Vibe Coding搞定
Andrej Karpathy 力荐的 Vibe Coding 在 AI Infra 开发中常「水土不服」，存在上下文丢失、决策偏离、质量不稳定等问题。文章提出文本驱动的 Vibe Coding 方法，并以 Agentic RL 中的资源调度系统为例验证其有效性，还介绍了相关团队和工具。
AI记忆系统首获统一框架！6大操作让大模型拥有人类记忆能力
香港中文大学等团队发布AI记忆机制综述，首次构建统一框架，划分记忆类型，提出六种操作，探讨关键主题，还对比人类与AI记忆，指明未来AI记忆系统需突破瓶颈，迈向认知跃迁。
AI集体“听不懂”！MMAR基准测试揭示音频大模型巨大短板
MMAR基准测试对30款音频相关模型进行测试，结果显示，多数开源模型面对复杂音频推理任务远未达实用水平，音乐任务中所有模型表现不佳，且有显式推理能力的模型表现更优。
以小博大！Nanbeige4-3B重磅开源：硬刚Qwen3，挑战小模型能力新高度
近年来大语言模型参数膨胀，成本升高，业界重注小语言模型。近日，Boss直聘南北阁大模型实验室发布仅30亿参数的Nanbeige4 - 3B，在多方面媲美甚至超越通义千问Qwen3系列模型，开源印证小模型潜力。