「端到端加速」共找到 2809 篇相关文章
Mistral 3开源，一举超越DeepSeek与K2？
近期，Mistral AI开源Mistral 3，含三款小型稠密模型及Mistral Large 3。Benchmark对比中，它领先国内DeepSeek - 3.1、Kimi - K2。Mistral Large 3是强开源权重模型，Ministral 3适合边缘端，成本性能比低。
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现，与PyTorch原生实现对比，该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。
突发！特朗普刚刚发布《美国AI计划》，OpenAI、微软、亚马逊成大赢家
今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
重磅！华为何庭波正式提出τ缩放定律，晶体管密度直指1.4纳米，麒麟2026首发验证
2026年，华为何庭波提出τ缩放定律，主张将时间常数τ作为半导体演进首要优化目标。该定律在手机端和AI数据中心验证有效，还涉及产业结构变化，但仍有工具链、工艺变异等问题待解。
重构线性视觉Transformer，精度与效率双平衡 | CVPR'25
南洋理工、北航与合工大联合提出CARE Transformer，以非对称解耦建模局部与全局，降低计算开销、提升特征表达。实验显示其在移动端低延迟高精度，打破“效率与精度不可兼得”困局。
5分钟上手，无照就能飞：91万「空中F1」已经排到了2027
Jetson公司推出个人飞行器Jetson ONE，号称“空中F1”，亮相2025年UP.Summit并举办飞行比赛。它性能亮眼、安全性高，无照5分钟上手，售价91万，订单排到2027年。此外还介绍了其他飞行器。
训练数据爆减至1/1200！清华&生数发布国产视频具身基座模型，高效泛化复杂物理操作达SOTA水平
清华大学与生数科技联合研发Vidar模型，首次让通用视频大模型长出‘手脚’，实现从虚拟到真实世界物理执行的跨越。它降低数据门槛，突破跨本体泛化困境，为服务机器人应用奠定基础。
LLM的RL训练轨迹竟然是线性的？Miaow Lab｜新工作：无需继续训练，直接“预测”未来模型！
文章介绍《Not All Steps are Informative: On the Linearity of LLMs' RLVR Training》，揭示RLVR训练中LLM权重和输出概率线性变化，提出“权重外推”法，可实现6.1倍训练加速，还介绍三种策略及实验结果。