「质量 - 延迟权衡」共找到 878 篇相关文章
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
MIT & Google | 提出异步并行生成新范式，LLM推理效率大幅提升！
MIT与谷歌团队在研究PASTA中探索异步生成范式，开发标记语言PASTA - LANG，采用双阶段训练流程，设计推理系统。实验显示PASTA平衡性能与质量，有可扩展性，为LLM推理效率优化开创学习驱动新路径。
谷歌Gemini火力全开！实测：原生图像生成新升级确实强
谷歌Gemini原生图像生成功能升级，图像质量更好、文本渲染更准、生成速度更快。可融合图片元素、实时编辑等，能免费试玩，开发者可集成API。实测表现惊艳，也有翻车情况，还能搭配Gemini 2.5 Pro。
半个月暴涨23k+ Star，一行命令让任意软件 Agent-Native！
介绍开源项目`CLI-Anything`，它用CLI作AI Agent与软件桥梁，有全新思路。半个月Github涨23k+ Star，能一键生成CLI，对接真实后端，但也有依赖代码质量、不适闭源软件等局限。
豆包上可以体验 Seedance 2.0 了，我已经试了一下。
Seedance 2.0是字节自研视频生成模型，已接入豆包App、电脑端和网页版。支持文生视频、图生视频、分身视频等，动作自然、镜头连贯，生成质量高，还解决了创作者出镜难题，操作也简单。
Claude 急了！模型降智，官方长文用 bug 搪塞？开发者怒怼“太晚了”：承认不达标为何不退钱？
8 - 9 月初Claude模型质量下降，Anthropic发文解释是因三项基础设施漏洞。介绍了三个bug及处理办法，也分析检测难的原因并给出改进方案，但很多用户已不再买账，Claude用户流失问题持续。
NeurIPS近3万投稿爆仓，强拒400篇论文！博士疯狂内卷，AI顶会噩梦来袭
AI顶会现「爆仓危机」，NeurIPS 2025双会场仍难容纳近3万投稿，约400篇已录用论文被拒收。AAAI 2026投稿也破纪录，近7成来自中国。各顶会录用率降、审稿人缺、质量下滑。
突破瓶颈，嵌入式AI神经持续学习引擎—Replay4NCL
阿联酋、纽约、巴基斯坦大学研究人员推出Replay4NCL，解决嵌入式AI持续学习难题。它优化记忆重放，有创新架构和训练策略。实验显示其精度高、延迟低、省内存、能耗少，成果将在2025年DAC大会展示。
AI 写 80%，人修最后 20%：这是什么新赛道？“ AI 代码补锅匠 ”了解一下。
Vibe Coding 成 2025 年 AI 驱动开发核心趋势，强调用自然语言提示让 AI 生成代码。虽可提升效率，但 AI 生成代码有质量、安全等问题，催生付费修复服务，未来“AI+专家”模式或成主流。
西湖大学张驰团队：不重训，也能让视频生成更长更稳丨CVPR 2026
AI 视频生成目前存在长视频稳定性问题，西湖大学张驰团队提出 《Free-Lunch Long Video Generation via Layer-Adaptive O.O.D Correction》。研究表明 FreeLOC 方法能提升长视频生成质量，且具跨模型通用性，还揭示了问题机制，降低算力成本。