「速度提升」共找到 3333 篇相关文章
性能最高提升7倍？探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望，介绍了主流推理框架vLLM、SGLang，分析KV Cache、Paged Attention、Prefix Caching等技术的优化点，还提及LMCache、DeepSeek的缓存技术，最后提到MCP赋能可视化OLAP智能体应用。
MIT & Google | 提出异步并行生成新范式，LLM推理效率大幅提升！
MIT与谷歌团队在研究PASTA中探索异步生成范式，开发标记语言PASTA - LANG，采用双阶段训练流程，设计推理系统。实验显示PASTA平衡性能与质量，有可扩展性，为LLM推理效率优化开创学习驱动新路径。
一个月的活一周干完！英伟达世界模型训练速度飙升400%
英伟达世界动作模型 DreamZero 训练成本高、耗时长，无问芯穹与清华等推出的 RLinf 框架，从算子融合到 I/O 全链路系统级重构，使训练吞吐拉高近 4 倍，还解决多类性能瓶颈，保证训练效果。
碾压小扎！22岁成亿万富翁，2025年AI造富速度刷新人类认知
2025年AI成超级造富机，将50多位创始人送入亿万富翁俱乐部。从大模型到应用层，AI渗透生活。巨额融资不断，巨头砸钱建基建，人才争夺激烈，多模态初创公司也受青睐，职场AI使用比例上升。
TEN VAD 开源：低延迟、高准确率，提升「语音 Agent」上限就靠它!
TEN-VAD是专为实时流式语音场景优化的开源模型，能解决语音交互中常见问题。它轻量级、跨平台、高性能、低延迟，获大佬背书，在多场景是必选组件，是语音交互里易被忽略却难替代的一环。
字节即梦张楠：帮人类提升创造力，才是更有意义的「目标函数」
在极客公园IF 2026创新大会上，张鹏与字节跳动即梦张楠探讨人与AI等内容。还放映AI短片《老妈的心愿》，全程由AI创作。张楠介绍合作计划，谈及创作挑战、AI与人关系、Sora与抖音差异等内容。
5万美元筛选「超级婴儿」, 智商提升15点？马斯克被曝是客户！
据《华盛顿邮报》披露，马斯克至少有一名子女用了胚胎多基因筛查服务。这项技术被包装成通往「超级婴儿」的门票，吸引富豪入场，但顶尖医学遗传学组织警告不应临床提供，一场资本、伦理与科学的豪赌已开局。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
微软、哈佛开源创新优化器：全面超越Muon，提升大模型训练效率
随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。
只提升2个点？我实测Claude 4.1后，发现官方在骗人
官方更新Claude 4.1，作者实测其与Claude4、DeepSeek R1在生成UI设计图、卡片、网页游戏开发等方面的能力。结果显示Claude 4.1进步大，尤其在理解提示词和视觉设计能力上，还能精细修改多文件。