「模式感知推理」共找到 3088 篇相关文章
多模态扩散模型开始爆发，这次是高速可控还能学习推理的LaViDa
近期基于扩散模型的视觉 - 语言模型 LaViDa 出现，它继承扩散语言模型优点。与自回归模型不同，扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力，推理蒸馏和文本填空表现好，还能权衡速度与质量。
致敬Kimi K2：基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。
英伟达下一代GPU登场，Rubin CPX一次推理数百万Token，网友：这是头野兽
在周二的AI基础设施峰会上，英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台，性能卓越，还能复用现有平台，预计2026年底上市。
DeepSeek-R1发布100天后：全面复盘推理大模型复现研究及未来！
推理语言模型（RLMs）发展显著，DeepSeek - R1发布引发广泛影响且未完全开源。MiroMind等总结其复现研究，关注SFT和RLVR方向，介绍数据构建、方法设计、训练过程细节及实验关键发现。
全域感知，一键部署：“星元智能体”开启国产AI落地新范式
4月29日，数字感知芯片技术全国重点实验室联合中星微团队发布‘星元智能体’。它基于XPU芯片，完成从芯片到智能体跨越，架构创新破算力瓶颈，还破解数据困局，已在多地试点，未来将推动AI产业发展。
从HITL(Human In The Loop) 实践出发看Agent与设计模式的对跖点
本文围绕在 ReactAgent 中引入并实践 HITL 机制展开，介绍实现方案与代码设计。分析无通用人机协同时的问题，阐述 HITL 核心要点、实现效果与细节，还探讨 Agent 演进与工程设计模式的关联。
告别依赖地狱！新型Python打包神器，支持三种打包模式，跨平台，零配置！
分发Python应用时，环境配置和依赖管理让人头疼。刚开源的Python打包工具PyFuze功能全面，基于cosmopolitan和uv构建，有三种打包模式，兼容GUI应用，跨平台运行，还能一键将项目打包为单个可执行文件。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
d-Matrix用3D堆叠技术终结"内存墙"，AI推理迎来光速时代
2025年9月Hot Chips上，d - Matrix展示3D堆叠数字内存计算技术，直击AI“内存墙”难题。其产品Corsair带宽强大，新Pavehawk架构更有性能跃升，为AI推理开辟新赛道，虽面临挑战但前景可期。
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。