「推理加速技术」共找到 4926 篇相关文章
毫无征兆！DeepSeek R1爆更86页论文，这才是真正的Open
两天前，DeepSeek悄无声息把R1论文从22页更新到86页，将其升级为开源社区可复现的技术报告。新论文干货多，如精确数据配方、基础设施说明等，且多项实力媲美甚至赶超OpenAI等闭源模型。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
从AI Agent到Agentic AI：开源如何助力开发者解决行业痛点？
2025年全球开源软件项目数量增长，中国企业贡献显著。字节跳动在火山引擎原动力大会开源开发者日上，多位负责人分享开源经验，探讨其为AI Agent带来的技术改变，展示解决行业痛点的理念与实战经验。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
SGLang JIT Kernel 介绍
文章介绍SGLang JIT Kernel，此前开发CUDA Kernel流程繁琐、编译时间长，现基于TVM - FFI探索JIT开发加速迭代。文中梳理其机制、抽象及新增Kernel流程，还给出环境设置、目录结构等内容，并以实例说明开发过程。
参数破万亿！阿里Qwen3-Max-Thinking发布，编程能力“踢馆”Gemini与Claude
阿里发布总参数超万亿的Qwen3 - Max - Thinking，预训练数据规模达36T Tokens。在多项权威测试中表现优异，能与顶级闭源模型竞争。引入两项核心创新，千问App等已上新，网友认可其能力与更新速度。
联手诺基亚入局6G，老黄要制定全球标准！GTC最新演讲揭秘：「美国科技的未来」就靠这6张王牌
老黄在华盛顿 GTC 大会演讲，英伟达要和诺基亚合作干 6G，重新构筑世界通信系统。演讲涉及 6 大核心，包括利用物理人工智能和数字孪生技术重塑美国工业化等，还介绍了加速计算、AI 变革等多方面内容。
计算机科学家杰弗里·辛顿：“AI会让少数人更富，多数人更穷”
被誉为‘人工智能教父’的杰弗里·辛顿，见证了AI从学术走向主流。他从技术加速者变为警示者，指出AI或对人类造成严重伤害，还谈到应对风险方案、中国优势及AI对社会经济的影响等。
打破56年数学铁律！谷歌AlphaEvolve自我进化实现算法效率狂飙，堪比AlphaGo“神之一手”
谷歌DeepMind联合顶尖科学家打造「通用科学人工智能」AlphaEvolve，打破矩阵乘法领域56年效率基准，将4x4矩阵乘法标量乘法次数从49次降至48次，还在谷歌内部加速了运算、缩短训练时间。文中介绍其原理与技术。
首发Omni-Flow流式全模态架构，消费级显卡就能跑
面壁智能等联合发布MiniCPM-o 4.5技术报告，公开Omni-Flow流式全模态框架。该模型凭9B参数实现端到端全双工全模态，可在消费级显卡运行，还推出在线体验Demo等，性能表现佳，应用潜力大。