「推理优化与部署」共找到 3516 篇相关文章
“天下苦CUDA久矣！”KernelCAT率先掀桌，实现国产芯片无痛适配
中国AI产业与英伟达GPU及CUDA生态深度依赖，国产AI根基脆弱。KernelCAT作为AI Agent，能开发高性能算子，在昇腾芯片调优测试中表现出色，还能让国产模型在昇腾芯片上高效部署，实现35倍加速。
HAMi 2.7.0 重磅发布 | 异构芯片全面拓展，调度更稳、生态更强
Dynamia密瓜智能宣布发布HAMi 2.7.0版，在硬件生态、调度器、应用层生态等方面有显著进展。硬件上支持昆仑芯、燧原、AWS等芯片；调度器优化了资源计算和可观测性；应用层与vLLM、Xinference等整合。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
PaddleOCR3.0全面开源！文档解析PP-StructureV3：PDF秒变高质量结构化文件！
在大模型与RAG技术发展下，结构化数据愈发重要。飞桨团队打造PP - StructureV3并随PaddleOCR3.0全面开源，它能将文档精准转为结构化文件，有精度高、能力多等优势，还介绍了使用方式。
腾讯混元最新开源成“最强翻译”：国际机器翻译比赛获30个语种第一
腾讯混元团队的Hunyuan-MT-7B以7B总参数量获国际翻译比赛冠军，还开源了该模型及翻译集成模型Hunyuan-MT-Chimera-7B。其Shy框架有三大创新，在多方面表现优异，还为垂直领域优化提供模板。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
Axiom Math 对谈 SGLang：模型的下一步是可验证，结果层才是真正的护城河
在AGI Playground 2026圆桌论坛，Axiom Math联合创始人等探讨AI核心问题。提到AI进入生产环境，可验证或成瓶颈，还从长任务智能体、推理基建等多方面深入交流，如模型验证、基建优化等。
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
SGLang支持GPT-OSS：从Day 0支持到性能增强
SGLang宣布重大更新，聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升，支持多GPU，有推测解码等功能，还支持智能体应用程序，且不损害模型推理能力。