「超低延迟」共找到 3057 篇相关文章
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
破局大模型训练黑盒，MegatronApp开源实现万亿参数「可视可控」训练
在2025上海QCon大会上，算秩未来赵伯罕博士指出万亿级大模型训练困境。上海期智研究院和算秩未来联合研发MegatronApp，以低入侵方式补齐链路，其四个模块形成闭环，让训练从黑盒变白盒，项目已开源。
一封来自Transformer之父的分手信：8年了！世界需要新的AI架构
Transformer之父Llion Jones在TED AI大会上称要把对Transformer的爱好调成「低电量模式」。他认为大量资金与人才涌入使研究被「收窄」，大家只顾卷参数、抢发论文，没人探索新架构，他呼吁找回好奇心。
明星AI编码助手涨价10倍惹怒开发者！CEO 回应：有人花千元薅了我们10多万，不挣钱不可持续
10月16日，AI代码助手Augment Code更新定价模式，按AI使用量计费，用户称成本涨超10倍。CEO称原模式不可持续，举例有用户带来高额成本。行业内多家公司也调整定价，反映AI编码助手成本和定价难题。
首家AIOS落地来自vivo：个人化智能复刻人类思维，手机还能这样用
2025年vivo开发者大会展示全新端侧AI能力，提出蓝心3B端侧多模态推理大模型，融入OS底层，实现系统级智能。其AI OS打造“个人化智能”体验，还开放生态，携手开发者推动AI应用落地。
业界首个高质量原生3D组件生成模型来了！来自腾讯混元团队
腾讯混元3D团队推出业界首个高质量原生3D组件生成模型Hunyuan3D - Part。现有3D生成算法有局限，该模型提出新范式，含P3 - SAM和X - Part，在多数据集评估中超越现有工作，还给出体验地址和论文地址。
a16z：AI 产品初期用户流失高很正常，M3 留存才是评估 PMF 的关键
a16z研究团队分析数百家AI企业后发现，将衡量用户留存率基准点从M0后移至M3，能更清晰评估PMF和GTM策略。AI产品留存曲线分获客、留存、扩张三阶段，M12/M3比率是预测长期留存关键指标。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，国务院提出到2030年智能体等应用普及率超90%目标。但企业部署智能体面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
沉寂一个月，openPangu性能飙升8%！华为1B开源模型来了
华为发布专为昇腾端侧硬件打造的openPangu Embedded - 1B模型，仅10亿参数却性能卓越。它运用多阶段训练和优化，在权威基准表现亮眼，V1.1平均分较上月跃升超8%，还介绍了背后技术。
刚刚，GPT-5 Pro自证全新数学定理！OpenAI总裁直呼颠覆，大佬们集体转发
微软前AI副总裁Sebastien Bubeck让GPT - 5 Pro求解论文中未解数学区间，模型将已知下限从1/L推进到1.5/L，虽论文作者后续超了AI，但此发现仍令人鼓舞，大佬认为AI或改变数学领域。