「混合推理架构」共找到 3631 篇相关文章
Multi-Agent 的灵活编排之路
文章从Copilot 3.0架构规划模块出发，结合DeepSeek R1强化学习训练实践，探讨多智能体架构下大模型编排智能体解决问题。分析Copilot 2.0局限并介绍3.0升级，指出难点，展示效果对比及解决方案。
AI生图大洗牌！流匹配架构颠覆传统，一个模型同时接受文本和图像输入
AI生图有新突破，新模型FLUX.1 Kontext用流匹配架构，与此前技术不同，能接受文本和图像输入。其来自Black Forest Labs，有编辑和生成能力，还具备4个特性，第三方测试也给出提示词使用技巧。
首个测试时共进化合成框架TTCS：在「左右互搏」中突破推理瓶颈
厦门大学DeepLIT课题组提出全新测试时课程合成框架TTCS，不依赖外部标注，通过生成器与求解器共进化博弈合成课程数据，解决测试样本过难导致的训练坍塌问题，实验显示其推理能力提升显著。
内存减6倍、精度0损失，推理提速8倍！谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术，能将KV缓存6倍压缩、无精度损失，推理速度提升8倍，解决内存瓶颈问题，为大语言模型应用扫清障碍，引发业界关注，还致存储芯片巨头股价大跌。
给企业应用注入AI：架构师需关注的3大工程挑战与9种设计模式
文章指出企业常将AI引入现有应用，集成时要考虑系统风险。介绍架构师需关注的3大工程挑战及9种设计模式，含可用性、性能、安全增强相关模式，助企业让AI应用从“能用”变“好用”。
上海AI实验室造出首个「通才」机器人大脑：看懂世界+空间推理+精准操控全拿下
上海人工智能实验室联合多家单位提出通用具身智能大脑框架VeBrain，能集成视觉感知、空间推理和机器人控制能力。它统一三类任务语言建模范式，有“机器人适配器”，配套VeBrain - 600k数据集，性能测试表现出色。
GRPO遭遇瓶颈？G²RPO-A让自适应指导为小模型推理能力「开外挂」
大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。
刚刚，阿里发布最强推理模型Qwen3-2507，用疯狂一周暴击美国AI行动计划！
美国发布AI行动计划，欲成“世界AI冠军”，但阿里在7月22 - 25日三连发，推出Qwen3 - 235B非思考版本、Qwen3 - Coder、Qwen3 - 235B - A22B - Thinking - 2507推理模型，冲击美国计划。千问3在多领域表现出色，不过也有使用费用等小问题。
为什么你的 Agent 总是出故障？从算力基建到可信熔断的架构生死线 | 直播预告
本次直播集结值得买、商汤、明略三位技术专家，拆解可信 Agent 的构建之道。将探讨大模型基础设施、可信 Agent 架构、MCP 协议实战等内容，还会解答观众提问。
Mini-SGLang，30万行代码浓缩为5000行，大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang，将30万行代码缩至5000行，保留核心特性，为大模型推理提供高性能教学与研究模版，解决教育门槛高和科研原型开发难的痛点，还经测试验证了性能。