「工程应用」共找到 2756 篇相关文章
单机H200最快DeepSeek V3和R1推理系统优化秘籍
作者从开源技术分享角度，盘点SGLang对单机规模推理的大量工程优化技巧，涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等，助于提升DeepSeek V3/R1在单机H200上的推理性能。
李飞飞又被超越了？百万「普通视频」打造通用4D世界模型！
全行业为昂贵多视角数据发愁时，中科院和CreateAI推出NeoVerse，用百万单目视频打开4D世界模型大门。它抛弃多视角数据和离线预处理，解决扩展性瓶颈，在重建速度、生成质量等方面表现出色，有丰富下游应用。
清华等发布UltraRAG 2.0，仅用50行代码解锁RAG高性能开发
大语言模型存在“知识截止”问题，RAG技术应运而生，成为大模型落地主流方案。但随着需求提升，其工程实现变复杂。清华等推出UltraRAG 2.0，仅50行代码实现同等功能，降低开发门槛，性能提升，还能落地多种场景。
性能最高提升7倍？探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望，介绍了主流推理框架vLLM、SGLang，分析KV Cache、Paged Attention、Prefix Caching等技术的优化点，还提及LMCache、DeepSeek的缓存技术，最后提到MCP赋能可视化OLAP智能体应用。
InfoQ 2025 年趋势报告：文化与方法
InfoQ 2025 年趋势报告指出，AI 虽提升开发速度，但带来质量问题，需新测试方法；团队协作重要，工程师依赖 AI 或破坏协作；初级工程师价值仍在，可借 AI 学习；可观测性成本攀升，应视为战略投资；平台工程是未来方向。
蚂蚁再把医疗AI卷出新高度！蚂蚁·安诊儿医疗大模型开源即SOTA
蚂蚁集团联合多方开源的医疗大模型蚂蚁·安诊儿（AntAngelMed），一经发布就登顶多项医疗基准测试榜单，是迄今参数规模最大的开源医疗模型，应用门槛低，为行业示范出一条清晰路径。
又一款国产高性能GPU问世，实力对标海外巨头
2025年9月22日，芯动科技发布“风华3号”全功能GPU，它架构全面，功能覆盖广，在大模型等领域有多个突破，还适配多生态与系统。该产品能为多行业定制服务，标志国产GPU进入规模化应用阶段。
李飞飞押注的「世界模型」，中国自研Matrix-3D已抢先实现了？
中国自研世界模型Matrix-3D可单张图生成3D世界，效果对标李飞飞的World Labs，还能实现更大范围探索。它有诸多优势，技术上有创新，数据集有特点，应用前景广泛。
大模型竞赛转向：决胜关键为何是“后训练”？｜甲子光年
大模型价值主战场向后训练转移，Grok 4凭后训练成“宇宙最强”。产业应用中通用模型适配难，后训练方法也在进化，如采用SFT+RL等，还介绍了夸克和阿里云的后训练实践。
Gödel Rescheduler：适用于云原生系统的全局最优重调度框架
本文介绍字节跳动研发的Gödel Rescheduler重调度框架，它能解决传统调度资源分配和任务摆放问题。阐述传统重调度弊端，介绍新方案组件，列举应用场景及成果，还提及未来规划，目前已开源。