「解码阶段」共找到 811 篇相关文章
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
我用 AI 翻译的三个阶段：提示词时代 → 推理模型时代 → Agent 时代
作者分享近 2 年 AI 翻译经验，将其分为提示词、推理模型、Agent 三个时代，介绍 Agent 翻译与提示词翻译区别，还阐述 Skill 创建迭代、三种翻译模式由来等，给出解决一致性问题等方法。
以小博大，仅1.7B媲美gemini2.5-pro，达到SOTA文档解析性能
dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。
Anthropic创始人行动手册：打造一家AI-Native创业公司（附36页中文PDF）
Anthropic上周发布《创始人行动手册》，介绍AI时代打造AI - Native创业公司的方法。手册按创业四阶段展开，阐述各阶段目标、挑战及Claude工具的使用，还给出资源、案例和创业支持信息。
构建一个 Agent 只要三分钟，但为什么大多数企业的 Agent 还停留在 Demo 阶段？
文章以 Google Cloud 开发者大会演示引出问题：构建 Agent 仅需几分钟，为何多数企业的 Agent 还停留在 Demo 阶段？指出这背后是治理、运行时等一连串工程挑战的叠加，还介绍了 Google Cloud 相关解决方案。
独家！哈工大斩获AI顶会ACL评审阶段最高分，让AI领略汉字之美
哈工大论文获AI顶会ACL 2025评审阶段已知最高分。团队用传感器捕捉手部书写实现汉字输入识别，独创中文字形编码让AI理解汉字形态，革新中文人机交互，推动汉字文化传承，为AI理解汉字开辟新路。
EMNLP 2025 Oral｜检索增强 + 两阶段微调：剑桥提出有害内容检测大模型RA-HMD，性能SOTA
多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。
完全透明开源的共情语音大模型，三阶段训练，四大模块实现端到端对话 | 紫东太初联合长城汽车开源OpenS2S
GPT - 4o、Gemini等顶级语音模型闭源，紫东太初团队联合长城汽车AI Lab开源端到端共情语音语言大模型OpenS2S，提供构建共情语音系统新范式，开源所有核心资源，还介绍了技术方案、数据构建及训练流程等。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。
JustGRPO：扩散语言模型的极简主义回归
本文提出回归极简的方法 JustGRPO，在 RL 阶段让模型自回归生成，用标准 GRPO 训练，能超越各类针对 dLLM 设计的 RL 算法表现，提升推理表现同时保留并行解码能力。