「内存申请延时」共找到 285 篇相关文章
我在Facebook工作四年的总结与反思
作者分享在Facebook四年工作的总结反思。包括目标规划、工作价值判断、处事态度、技术与产品关系等多方面体会，如明确目标、做有价值工作、少片面结论等。
日志采集效能跃迁：iLogtail 到 LoongCollector 的全面升级
2025年，iLogtail正式升级为LoongCollector，实现日志采集和处理领域的新跨越。它架构升级，有多样Pipeline形态，性能提升，稳定性和隔离性增强，还具备网络探测、无缝迁移等优势，将带来可观测数据全栈采集新体验。
英伟达和AMD，开始争夺AI制药的计算入口
每年的 Advancing AI 大会，AMD 都要回答 Instinct GPU 除训练大模型外的应用问题。今年大会上，AMD 把一个位置留给 AI 制药公司 MindWalk。而其对手英伟达已在生命科学领域布局多年，生命科学成两家竞争新战场。
谷歌放的这波免费AI额度，大到很多人以为是假的
谷歌在Google AI Studio上调整Gemini API免费层规则，额度达每分钟100万token，无额外申请门槛。覆盖Gemini 2.5全系列模型，支持多模态输入。开发者反应两极，有人看好，也有人质疑。
记忆奇点来临！人类三十万年遗忘被哈佛神经科学家终结
哈佛医学院神经科学家 Gabriel Kreiman 推出 Engramme，旨在赋予人类完美且无限的记忆。它能在特定场景下主动推送相关记忆，构建了大记忆模型，有深厚研究积累，已开放 beta 版申请。
中国科协重磅回击，NeurIPS含金量一夜归零！AI顶会已死？
NeurIPS以「合规」为由出台歧视性政策，引发强烈不满。其官方回应遭群嘲，中国科协出手将其2026年在中国学术评价体系中「含金量」归零，顶尖学者集体退审，顶会审稿制度也在坍塌。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
FlashAttention-4震撼来袭，原生支持Blackwell GPU，英伟达的护城河更深了？
在 Hot Chips 2025 上，TogetherAI 首席科学家 Tri Dao 公布 FlashAttention-4，其在 Backwell 上比英伟达 cuDNN 库中的注意力核实现快 22%，还实现两项算法改进。该技术一直迭代升级，提升了注意力计算效率。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。