「text decoder」共找到 35 篇相关文章
关于我用ChatGPT模拟撒旦并支付了订阅费这件事
新智元报道,硅谷科技巨头将AI注入基督教领域,出现如「Text with Jesus」等App。信仰交互变即时亲切,神成算法打造的伴侣。但也有争议,如算法妥协、恶魔付费解锁等,这像数字巴别塔,挑战传统信仰。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读,详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案,包括Prefill和Decode阶段的优化、通信优化、观测诊断等,并给出了评测结果。
刚刚,ICCV最佳论文出炉,朱俊彦团队用砖块积木摘得桂冠
10月22日凌晨,ICCV揭幕本年度奖项。卡耐基梅隆大学朱俊彦团队《Generating Physically Stable and Buildable Brick Structures from Text》获最佳论文奖,提出BrickGPT;以色列理工学院《FlowEdit: Inversion-Free Text-Based Editing Using Pre-Trained Flow Models》获最佳学生论文奖。
图解Vllm V1系列6:KVCacheManager与PrefixCaching
文章聚焦vllm v1,阐述调度器取请求时判断设备有无充足空间做推理的问题,涉及KVCacheManager与Prefix Caching。前者管理请求和块,后者通过找最长一致前缀节省显存,还介绍块分配释放策略与流程。
从 AI 取数到智能分析:企业级数据 Agent 的多阶段演进与工程化落地
文章整理自 Shopee 技术专家王新波在 QCon 全球软件开发大会 2026 北京站的分享。复盘团队打造企业级 Data Agent 实践,揭示技术演进路径,分享将取数工具雕琢为智能分析工具的方法。
Claude水印已被破解,斩获11k Star!但会被拒绝安装
Anthropic为Claude生成文本添加隐藏水印,引发争议。很快有开源项目可去除Claude、Gemini、OpenAI水印,获11k Star,但Claude拒绝安装。反对与支持水印者观点不一,双方展开猫鼠游戏。
突破显存瓶颈:基于 DeepSeek-V3.2-Exp 的 Latent Cache 卸载预取方案设计与模拟验证
百度百舸AIAK团队针对DeepSeek-V3.2-Exp,设计基于Latent Cache的卸载预取方案ESS。该方案解决显存瓶颈,提升Decode吞吐并降低成本,经模拟验证效果显著,未来将拓展应用。
AI Infra入门干货总结:大模型是如何高效推理的
作者深入研读vLLM源码,以Llama 3为例,聚焦Decoder-Only架构LLM,介绍推理各环节及张量维度变化,讲解连续批处理和Paged Attention概念,还阐述推理流程、采样策略等,最后总结相关拓展内容。
G2ConS将微软GraphRAG的成本被打下来了~
传统Text - RAG处理多跳推理表现不佳,GraphRAG虽能提升准确率,但成本高。作者提出G2ConS方案,在3个多跳QA基准全面SOTA,平均节省30%费用,EM提升31.44%,整体流程仅3步。
1句话高质量生成游戏3D动作,北大新方法刷新动画制作SOTA
北京大学提出ReMoMask:基于检索增强生成的Text - to - Motion框架,集成三项关键创新。在标准基准测试上,相比RAG - T2M,在HumanML3D和KIT - ML上FID分数分别提升3.88%和10.97%。