「AI推理加速」共找到 11290 篇相关文章
Product Hunt CEO 拆解 PH 打榜：Launch 不是一次性的事
Product Hunt的CEO Rajiv Ayyangar接触大量新产品Launch，在播客分享心得。他认为AI产品Launch很关键，要尽早且清晰介绍核心功能。还给出实操建议，如写短宣传语、小范围试水等。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
GPT-Image-2平替！最强开源生图模型来了
OpenAI推出GPT Image 2引发AI生图大战，国内厂商商汤反击，推出多模态理解生成模型SenseNova U1并全面开源。它通过自研架构实现理解、推理、生成统一，实测表现惊艳，能力全维度，与GPT-Image-2范式不同。
Qwen-Image-2.0: 字字清晰，张张细腻
阿里云推出Qwen-Image-2.0图像生成基础模型，具专业文字渲染、细腻真实质感等特色。在AI Arena盲测中表现优越，能精准生成复杂内容，文字渲染有准、多、美、真、齐特点，图像编辑能力也得到增强。
SGLang JIT Kernel 介绍
文章介绍SGLang JIT Kernel，此前开发CUDA Kernel流程繁琐、编译时间长，现基于TVM - FFI探索JIT开发加速迭代。文中梳理其机制、抽象及新增Kernel流程，还给出环境设置、目录结构等内容，并以实例说明开发过程。
罗福莉执掌小米大模型首秀！定调下一代模型，全新MiMo-V2开源还横扫Agent第一梯队
在2025小米人车家全生态合作伙伴大会上，罗福莉首秀解读全新大模型MiMo - V2 - Flash，该模型已开源，采用MoE架构和MTP技术，在多方面表现出色，罗福莉还阐述其设计逻辑与对下一代智能体的看法。
马斯克想要「杀死」氛围编程，就像FSD搞定自动驾驶
马斯克在X平台称xAI将消除氛围编程，让它回归纯粹编程，能按描述制作应用。氛围编程借助AI根据自然语言指令自动生成代码，若xAI愿景成真，软件开发范式或转变，程序员工作模式也将改变。
获NVIDIA致谢：悟空Agent的实践、复盘与迭代
本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。
新易盛股价飙30倍，实控人先跑了
新易盛三年股价翻近30倍，被称“牛市旗手”。但实控人高管却不断减持，高光荣还遭监管处罚。同时公司应收账款、存货膨胀，现金流有缺口，且九成收入来自海外，“国内AI红利”故事存疑。