「动态FP8」共找到 966 篇相关文章

算法论文8

谷歌新论文把内存股价干崩了!KV cache压缩6倍,“谷歌的DeepSeek时刻”

谷歌研究院推出TurboQuant压缩算法,可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失,还能8倍加速计算。虽引发存储芯片巨头股价下跌,但目前只是实验室成果,仅解决推理阶段内存问题。

量子位
算法论文8

比自回归更灵活、比离散扩散更通用,首个纯Discrete Flow Matching多模态巨兽降临

近年来多模态大模型多采用自回归架构,推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI,基于全新非掩码离散流匹配架构,能并行去噪、动态修正,为多模态模型开辟新路径。

机器之心
新闻资讯7

马斯克曝光Grok 5!1.5万亿参数,偷师Cursor狂练编程

5月25日凌晨马斯克官宣,1.5万亿参数Grok V9-Medium训练完成,2 - 3周后发布。训练灌入大量Cursor编程数据,编程能力将大幅提升。此前v8 - small年底前开源,马斯克编程赛道布局全面摊牌。

新智元
新闻资讯6

最不愿意裁员的微软给 6 万名员工发了自愿离职邀约

微软向美加印英四地的 6 万名员工发自愿离职邀约,覆盖全球员工总数的 27%,离职补偿为 8 至 39 周全薪并一次付清。

机器学习初学者
技术实践8

RTP-LLM 在相关性大模型中的推理优化最佳实践

淘宝搜索场景引入大参数LLM模型,面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践,如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等,还提及未来优化方向。

阿里云开发者
算法论文8

AI模型守法率提升11%,港科大首次用法案构建安全benchmark

香港科技大学KnowComp实验室从法律合规视角研究LLM安全,提出「安全合规」新范式。基于法律条文构建benchmark,用GRPO微调Qwen3 - 8B得推理模型,在新benchmark测试中性能提升显著。

新智元
开源动态7

VAST开源世界模型EdenLive:单卡实现任意视觉参考的720P实时渲染

3D 生成团队 VAST 开源实时生成式渲染器 EdenLive,单张 H100 渲染 720P 达 29.8 FPS,代码和权重均已公开。

将门创投
新闻资讯8

Anthropic深夜连放两弹:Sonnet 5、全新AI科研App重磅上线

Anthropic 深夜发布两个重磅更新:Claude Sonnet 5和面向科研人员的AI工作台Claude Science。Sonnet 5性能接近Opus 4.8,提升Agent能力且价格低;Claude Science整合科研工具,支持复现产出、自动管理算力、多学科查询。

AI寒武纪
算法论文8

上交大 x vivo 团队:一个简单改动,让 diffusion 全面提升丨CVPR 2026

上交大与 vivo 团队提出 C²FG 方法,针对当前 diffusion 模型缺稳定可控生成机制问题,通过 score 差异实现动态引导控制。实验显示,该方法能提升多维度指标,改进生成分布,揭示生成机制新方向。

AI科技评论
新闻资讯7

AI代码审核平台Greptile正洽谈3000万美元融资

TechCrunch消息,AI代码审查初创公司Greptile正洽谈3000万美元A轮融资,估值1.8亿美元。其由Dasksh Gupta创立,已获400万美元种子轮融资。代码审查领域竞争激烈,Greptile员工工作时长很长。

AIGC开放社区