「推理优化与部署」共找到 3538 篇相关文章
FlashAttention-4正式发布：算法流水线大改，矩阵乘法级速度
深度学习领域底层优化技术FlashAttention更新至4版本。其核心作者称在Blackwell GPU上，注意力机制执行速度接近矩阵乘法。新算法克服瓶颈，在B200上性能提升，还获Pytorch官方支持。
劈柴哥和哈萨比斯亲自站台！谷歌世界模型Project Genie刷屏，幕后团队揭秘60秒不是极限，内存是巨大约束
谷歌发布世界模型原型 Project Genie，用一句话或图就能生成可玩交互的实时虚拟世界，由劈柴哥和哈萨比斯站台。它基于 Genie 3、Nano Banana Pro 和 Gemini 构建，解决了世界模型长期以来的短板，目前处于实验阶段。
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。
保姆级Clawdbot教程来了，但我还是想劝大家悠着点。
Clawdbot爆火致Mac Mini断货，它是本地高权限的个人AI助理，功能与Claude Code类似，但有接入聊天软件、长期记忆、开源等特点。文章给出安装教程，也提醒因权限高有安全风险，使用要谨慎。
50个Agent分工干活，Kimi K2.5的Agent“军团”把我看呆了。。。
Kimi K2.5今日下午发布并开源，具备多模态能力。它能根据视频、链接等复刻网站，有Visual Edit功能且自动部署上线。还有Agent Swarm场景，多Agent协作解决复杂问题，应用体验佳。
企业级 AI Agent 的终极王牌：从 0 到 1 带你理解 “本体论” 与 6 块核心“积木”。
文章指出大部分企业Agent项目因幻觉、跑偏等问题失败，引出基于“本体论”的企业“本体”工程。介绍企业AI困境、现有工程手段不足，阐述本体可补企业“语义层”及构建本体的6块核心“积木”。
拒绝Reward Hacking！港科联合快手可灵提出高效强化学习后训练扩散模型新范式
使用强化学习微调扩散模型时，常面临Reward Hacking和KL正则化阻碍探索收敛的问题。港科等团队提出GARDO框架，通过门控自适应正则化和多样性感知优化，解决痛点且全面开源。
当顶级视频模型半衰期只有 30 天，fal.ai 为什么收入反而一年增长 60 倍？
在生成式媒体技术发展背景下，fal.ai 作为生成式媒体 infra 公司迅速崛起。它通过统一 API 与云端平台提供多模态模型调用能力，2025 年收入增长 60 倍并完成融资。文章解析其如何构建护城河及对行业发展的判断。
GAG：超越RAG，无需检索的私有知识注入新范式
在高价值私有场景，主流大模型注入知识的路线各有硬伤。中科院和360AI联合团队提出GAG方案，无需检索、固定底座、单Token、即插即用，实验显示效果佳，也指出跨域组合等局限。