「开源推理模型」共找到 9214 篇相关文章
中山大学HCP Lab联合拓元智慧提出高效世界模型DDP-WM，机器人规划效率提升9倍
中山大学人机物智能融合实验室联合拓元智慧提出新型高效世界模型框架DDP - WM。它解耦动态预测，在提升推理速度同时，提高规划成功率，如Push - T任务规划速度提9倍、成功率从90%升至98%。
美团新独立APP，点不了菜只能点AI
美团新开源LongCat-Flash-Omni模型，支持多模态，在全模态基准测试达开源SOTA水准，推理快且全模态能力强。实测交互体验丝滑，其迭代逻辑清晰。该模型成功源于架构创新，美团靠软硬件结合实现虚实连接。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践
文章是对蚂蚁开源x SGLang Meetup分享的回放解读，聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案，分析在Blackwell上做GEMM + AllReduce融合算子的优势，介绍multimem指令等，还提及接入模型执行路径和性能结果。
PyTorch博客翻译 Accelerating Generative AI Part III: Diffusion, Fast
这篇博客介绍用纯原生 PyTorch 技术将文本到图像的 diffusion 模型（特别是 Stable Diffusion XL）推理速度提升高达 3 倍的方法，讲解五种优化技术，还验证了方法在其他 diffusion 模型上的通用性和有效性。
LLM 技术在有道词典笔上的应用实践
本文围绕LLM技术在有道词典笔的应用展开。先分析端侧大模型落地挑战，如算力、功耗等。介绍有道词典笔等硬件及应用，对比端侧与云侧AI优劣。还阐述模型落地模式、算法优化及“子曰3数学模型”开源情况。
这款拿下 10k+ Star 的开源 LLM DevOps 平台，如何帮企业“批量孵化”AI 应用？——BISHENG 深度上手
BISHENG 是面向企业级场景的开源 LLM 应用 DevOps 平台，支持 GenAI 工作流等完整能力，已在众多头部组织落地。它围绕企业痛点搭建，有灵思 Agent、可视化工作流编排等亮点，适用于多场景。
对话ACE Studio：做AI音乐、月收入200万美元，我们选了一条和Suno截然不同的路
ACE Studio 切入 AI 音乐市场，与 Suno 路径不同，从专业用户入手，月收入达 200 万美元。其模型轻且快，还自建专家模型矩阵。商业模式采用开源免费吸引用户，闭源变现。认为 AI 音乐个性化是关键，未来将改变音乐产业。
在WAIC耳朵听出茧子的「智能体」，是时候系统学一下了
今年世界人工智能大会上，智能体成主角，AI厂商纷纷布局。文章指出人们对AI大模型期望转变，介绍智能体底层逻辑，涵盖工具使用、推理模型、ReAct框架等，还对比先前尝试，探讨智能体能力层次与未来发展。
ICLR 2026｜原生多模态推理新范式ThinkMorph ，让文字与图像在统一架构中共同演化
NUS、ZJU 等联合提出「ThinkMorph」，主张文字与图像在统一架构「原生协作」。仅用 2.4 万条数据微调 7B 统一模型，视觉推理平均提升 34.74%，多项任务比肩或超 GPT - 4o 和 Gemini 2.5 Flash，还涌现新能力。