「生成式引擎优化」共找到 3483 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时，发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术，将整体推理速度提升60%，还突破显存墙，且该优化可扩展到其他模型。
当万相2.5刚开卷有声视频，7月已经发布音频一体化的百度蒸汽机又开卷长视频了
百度升级MuseSteamer蒸汽机视频生成模型，可生成任意长度视频，生成中能更新prompt交互创作。其技术规划前瞻体系化，成本低，在多行业有应用和商业化空间。
谷歌Gemini Diffusion：1500 token/秒，快如闪电！
谷歌DeepMind在I/O 2025上推出实验性模型Gemini Diffusion，将扩散技术用于文本生成。它每秒能生成约1500个token，比Gemini 2.0 Flash - Lite快5倍，具备高响应速度、文本连贯性等优势。
实测Gemini图片转视频新功能，终于蹲到经典梗图后续了（doge）
Gemini接入带声音的图片转视频功能，作者实测该功能。用开盒指令测试，生成速度较快；还尝试给梗图加后续，发现生成精确内容需详细提示词，且不能生成具体真人形象内容。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
ICLR 2026 | OpenAI打广告后，如何成为爆款？CMU提出AutoGEO解密流量密码
AI搜索引擎渐成主流，OpenAI引入商业推荐后，内容在AI搜索成爆款取决于AI引用偏好。CMU团队在ICLR 2026论文中提出AutoGEO，抽取引擎偏好规则改写网页，实验证明其有效且兼顾引擎效用。
逐个token太慢！大模型原生并行出token，CMU、英伟达新作Multiverse
卡耐基梅隆大学（CMU）和英伟达研究者提出Multiverse，这是能实现原生并行生成的新型生成模型。它解决了现有并行生成模型缺乏连贯性等问题，通过多方面协同设计构建推理模型，还开源了生态系统。
没想到 50 岁了我开始手搓小游戏：灵光闪现
作者池建强分享AI领域“生成涌现”现象，以Gemini 3.0演示为例，又介绍蚂蚁集团的灵光App，其闪游戏功能让普通用户用一句话生成小游戏，能修改迭代，体现AI构建系统能力，创作平权或到来。
图生视频新玩法刷爆外网：图上画两笔就能动起来，终于告别文本提示
Higgsfield AI 是专注 AI 视频生成的初创公司，近期发布 Draw-to-Video 和 Product-to-Video 功能，前者画图形元素就能生成视频，后者可拖拽生成广告视频。它还常上新功能、集成热门模型，官网功能模板丰富。