「并行输出」共找到 552 篇相关文章
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。
如何让LLM的输出更有创造性和随机性？
文章指出让大模型生成随机创造性内容困难，介绍了调整温度和top_k参数等提升LLM创造性和随机性的方法，还提到min_p参数影响及外部引入随机性思路，不过LLM本质有局限，多智能体或可缓解。
专访三菱电机半导体事业部总经理：SiC与IGBT如何双轨并行？
芯师爷在2026年8月PCIM Asia深圳展期间，专访三菱电机半导体事业部总经理赤田智史，围绕三菱电机功率半导体70年发展、SiC与IGBT双轨战略、新品布局、市场策略等展开深度对话，行业信息充足。
ICCV 2025 | EPD-Solver:西湖大学发布并行加速扩散采样算法
扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。
Karpathy公开附议：AI Agent 的输出格式，正在从 Markdown 走向 HTML
随着 Agent 处理任务变复杂，Markdown 在长文档中可读性与排版局限凸显。HTML 能无损表达信息、支持双向交互，但生成耗时久、版本控制难。AI 研究者 Karpathy 附议，HTML 成探索方向。
开源端到端语音大模型：直接从原始音频输入，生成语音输出
目前大模型大多只能输出文本，人机音频交互不顺畅。Step - Audio团队开源端到端语音大模型Step - Audio - AQAA，能直接听懂音频问题并合成语音回答，介绍了其架构和各核心模块。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
字节开源多模态复杂文档解析模型！Dolphin：页面与元素并行解析，精准解析复杂文档！
多模态AI与文档解析兴起，传统OCR解析复杂文档常出错。字节跳动开源多模态模型Dolphin，通过两阶段机制精准解析，有多种功能，安装使用友好，适用于多场景，降低了复杂文档解析门槛。
7.3K Star！用 Orca 组建 AI 舰队：让 Claude Code 和 Codex 同时开工！
Claude Code 大火后，多家大厂推出自家 Code CLI，多终端操作上下文切换成本高。Orca 是开源 AI 编排器，可让多个 AI 编程助手并行工作，集中查看结果，有并行工作区、统一管理界面等亮点。
OpenAI Codex桌面版深夜突袭！一人指挥Agent军团，程序员彻底告别996
OpenAI推出编码杀器Codex桌面App，可指挥多Agent并行协作。它能多任务并行切换，创建调用Skills，设置自动化流程，从写代码进化到解决问题，还具备双人格模式，默认安全，有望重塑开发者与代码交互逻辑。