「预填充阶段」共找到 1013 篇相关文章
单卡跑出集群效率！Hugging Face TRL 与 RapidFire AI 的超并行革命
Hugging Face宣布其核心微调库TRL集成RapidFire AI，重构大模型后训练阶段工作流。RapidFire引入超并行实验引擎，提升实验验证速度，解决算力受限团队的调参难题，带来效能质变。
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收，提出高效推理框架，用截断矩阵熵解释 LLM 稀疏化，据此设计 UNCOMP 框架，通过压缩隐藏状态优化 KV Cache，实现计算与内存联合优化，实验效果显著。
GAIR Live 预告｜智能始于记忆，AgentMemory 的技术演化过程
在人工智能走向智能体阶段，‘记忆’成焦点。如今大模型‘记不住’上下文，‘从Human Memory到Agent Memory’跃迁是迈向具身智慧关键。GAIR Live将邀专家探讨记忆技术逻辑与路径。
Gemini 的 PPT 生成：使用技巧及模板提示词
Gemini APP 上线 PPT 生成能力，可通过提示词精细控制，还能与谷歌产品打通。文章介绍其使用方法，如开启 Canvas 模式、利用搜索填充内容等，还分享百搭 PPT 风格提示词。
Rex-Omni：用 3B 模型颠覆目标检测
长期目标检测依赖传统坐标回归模型，MLLMs方法存在不足。IDEA研究院提出30亿参数的Rex - Omni多模态大模型，在零样本测试中表现超现有回归模型，还具备丰富语言理解能力，有独特设计和训练流程。
刚刚，英伟达官宣向OpenAI投资1000亿美元！用至少400万GPU打造超级AI巨兽
芯片巨头英伟达与AI巨头OpenAI官宣「联手」，将建立战略合作伙伴关系。英伟达将投资1000亿美元帮OpenAI建10吉瓦AI数据中心，含数百万块GPU，首阶段系统2026年下半年运营。
字节推出全新视频换装框架DreamVVT
视频虚拟试穿技术受关注，但现有方法有局限。字节推出DreamVVT框架，基于扩散变换器，分两阶段试穿，能应对多种复杂场景，不过也存在依赖遮罩、复杂动作表现不稳定等问题。
LeCun出手，造出视频世界模型，挑战英伟达COSMOS
训练有效世界模型面临数据、任务难度、算力消耗和评估等难题。Meta研究者提出通用视频世界模型DINO - world，可预测未来帧，在多方面有优势，实验显示其性能显著，能降低对标注数据需求。
ACL 2025 Oral | 你的模型评测搭子上线：Evaluation Agent懂你更懂AI
上海人工智能实验室与新加坡南洋理工大学合作研发 Evaluation Agent，它能按需评估视觉生成模型，有可定制、高效率等优势。框架分提案和执行两阶段，评估结果佳，未来将拓展功能。
Alibaba力作:Ovis-U1 融合理解、生成与编辑，解锁无限可能
OpenAI 2025 年推出的 GPT - 4o 结合图像与语言能力，但引发视觉解码器设计及统一模型训练问题。Alibaba 力作 Ovis - U1 单一模型能完成理解、生成与编辑任务，介绍了其架构、训练过程和应用。