「并行推理加速」共找到 2703 篇相关文章
MiniMax M2 发布即爆，拿下开源模型第一名
10月27日，MiniMax发布新一代文本大模型M2及由其驱动的MiniMax Agent。M2是专家混合模型，参数达230B但激活仅10B。它在开源模型评测中夺冠，能低成本、高速度支撑工作流，开发者评价高。
SGLang Model Gateway 0.2 发布：企业级一体化AI原生编排
市面上一体化AI原生编排方案稀缺，Oracle和SGLang团队推出SGLang Model Gateway 0.2。它从SGL - Router重构而来，核心能力升级，架构分三层，部署灵活，还支持Kubernetes集成和向后兼容。
X上63万人围观的Traning-Free GRPO：把GRPO搬进上下文空间学习
年初 DeepSeek - R1带火大模型强化学习，GRPO成常见RL算法，但训练成本高。腾讯优图论文提出Training - Free GRPO，将GRPO训练范式迁移到上下文学习，成本低、泛化好，已开源。
Karpathy再放大招：8000行代码复现ChatGPT全栈，最低成本仅100美元，4小时跑完
Andrej Karpathy发布项目nanochat，是全栈式ChatGPT克隆体训练/推理流水线，代码约8000行，覆盖训练分词器、预训练等完整流程。介绍不同成本下模型表现，还回答网友关于架构、训练数据等问题。
腾讯王者归来：混元图像3.0登顶LMArena！一手实测全球最强图像AI
LMArena最新榜单显示，腾讯「混元图像3.0」在文生图任务中夺冠，碾压谷歌Nano banana和字节Seedream 4。它9月28日开源，性能对标闭源模型，有强大推理、语义理解能力，支持中英文长文本渲染。
瑞识科技获海外两家激光雷达上市公司VCSEL芯片开发项目
近日，瑞识科技与两家纳斯达克上市激光雷达企业合作，为其新一代产品定制高性能VCSEL芯片。当下激光雷达市场升温，VCSEL替代EEL趋势显著。此次合作彰显“中国芯”实力，将加速激光雷达商用。
Thinking Machines再发文：模块化流形让训练更稳定
Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。
Agentic Coding表现创新高，全新KAT系列模型强势霸榜SWE-Bench
快手 Kwaipilot 团队推出 KAT 系列两款 Agentic Coding 大模型，KAT - Dev - 32B 开源，KAT - Coder 闭源。两模型在 SWE - Bench Verified 表现出色，且在多训练阶段创新优化，有强大代码生成能力和涌现现象。
马斯克新模型背后算法来自英伟达？？？
Grok-4-fast降本增效表现出色，其背后或许关联英伟达算法论文。论文推出Jet-Nemotron模型，靠PortNAS框架降本提效，还开源代码。网友猜测Grok-4-fast基于此模型，也有人认为是营销手段。
Nano Banana不及格，开源模型一分难求！上海AI Lab新基准直击文生图模型痛点
上海人工智能实验室等联合发布首个多学科文生图考试基准GenExam，覆盖10学科、1000题。实验显示，GPT - 4o严格评分正确率仅12.1%，开源模型接近0分，暴露出模型在专业场景的短板。