「连续批处理」共找到 130 篇相关文章
清华联手英伟达打造扩散模型新蒸馏范式!视频生成提速50倍,4步出片不穿模
清华大学朱军教授团队与NVIDIA Deep Imagination研究组联合提出分数正则化连续时间一致性模型(rCM),将连续时间一致性蒸馏扩展至大模型,解决现有方法瓶颈,提升推理速度兼顾质量与多样性。
万字长文!大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开,先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求,再阐述模型并行、注意力机制优化、模型优化和模型服务等技术,如Pipeline并行、MQA、量化、动态批处理等。
GitHub连续霸榜,难怪别人的图表这么高级优雅!
作者让AI画系统架构图效果不佳,朋友推荐diagram-design项目。它是给Agent用的出图技能包,能让AI生成编辑级质量图表,有多种图表类型,具备诸多亮点功能,还介绍了安装使用方法。
2.2 万 Star 的 AI 虚拟伴侣项目!AIRI,连续一周登上 GitHub 日榜热门!
AIRI是moeru - ai团队开发的开源项目,目标是让用户拥有自己的AI虚拟角色。它受Neuro - sama启发,能陪玩游戏、多端支持、有形象且支持30多种LLM提供商,还在持续发展。
Claude Sonnet 4.5来了!能连续编程30多小时、1.1万行代码
十一假期前,DeepSeek 开源新模型 V3.2 - Exp,深夜 Anthropic 发布 Claude Sonnet 4.5,自称世界最好编码模型,自主编码时长超 30 小时,还带来系列产品升级,在多方面表现优异。
智谱GLM-5.1深度评测:8小时连续工作,开源大模型进入"工程交付"新纪元
2026年4月8日智谱发布GLM-5.1,它是全球首个通过真实工程任务验证8小时持续工作能力的开源模型,在SWE-Bench Pro上超越GPT-5.4等登顶。该模型性价比高、技术创新多,还适配国产硬件,开源生态友好。
Claude 4发布!AI编程新基准、连续编码7小时,混合模型、上下文能力大突破
今天凌晨Anthropic开发者大会发布Claude 4,含Claude Opus 4和Claude Sonnet 4。前者是顶尖编码模型,后者是Sonnet 3.7重大升级。还发布系列产品,定价不变,已上线Amazon Bedrock。
5Y News|微分智飞连续完成两轮融资,加速空中机器人具身智能研发
近日,微分智飞一个月内完成数千万元天使轮及天使+轮融资。此轮融资用于加速飞行具身智能创新等。公司由高飞教授领衔,成立三月就推出第一代平台,在多领域有开拓性应用。
成立半年连续获数千万融资,智子芯元凭什么卡位国产算力生态?|甲子光年
智子芯元成立半年获数千万天使轮融资。国产AI算力生态面临适配难题,该公司用“AI+运筹”解决。其核心技术“运筹学x大模型”,自研KernelCAT引擎,实现多场景高效交付,具泛化性。
Claude Code之父自曝刘慈欣铁粉!不写PRD、不设职称,Anthropic 如何连续推出两个AI 爆款?
本文是对Anthropic公司Claude Code创始人Boris Cherny的访谈。他分享了Claude Code和Claude Cowork的构建过程,介绍了Anthropic不写PRD、不设职称的团队文化,还探讨了AI时代工程师的技能转变及应对策略。