「全栈优化」共找到 3114 篇相关文章
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
首发Omni-Flow流式全模态架构，消费级显卡就能跑
面壁智能等联合发布MiniCPM-o 4.5技术报告，公开Omni-Flow流式全模态框架。该模型凭9B参数实现端到端全双工全模态，可在消费级显卡运行，还推出在线体验Demo等，性能表现佳，应用潜力大。
NVIDIA技术沙龙《强化学习流水线优化：性能分析与 Rollout加速》演讲笔记
该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。
新版 Android 插件登场，应用能瘦身 50%，Google 把代码优化和资源压缩合二为一
Google在新版Android Gradle Plugin引入资源压缩优化方案，合并代码优化与资源压缩。新方案让应用体积最高缩减50%，开发者有四种优化方式可选，AGP 8.12.0已提供该流程，AGP 9将默认开启。
航空学报｜西工大袁昊、寇家庆等：基于预解分析的低雷诺数翼型优化设计方法
本文将预解分析引入翼型外形优化，构建流动系统线性化模型，以最大预解增益表征流动稳定性。建立优化框架获Opt.1和Opt.2构型，优化后翼型流动稳定性提升、气动性能改善，方法有外推潜力。
小红书 FinOps 实践：云成本优化与资源效率提升之道
在 InfoQ 举办的 QCon 全球软件开发大会上，小红书梁啟成分享云成本优化实践。介绍了小红书用云情况，分析成本优化面临的问题，阐述成本洞察和优化的探索，如内外账分离、CPU 和 GPU 资源提效等，还展望了 AI for FinOps 实践。
Thinking Machines又发高质量博客：力推LoRA，不输全量微调
Thinking Machines 博客力推 LoRA 并与全量微调对比。研究发现小数据量任务中 LoRA 与全量微调效果接近，大数据量稍吃力，强化学习中低秩 LoRA 也能接近全量微调。还揭示了 LoRA 关键要素、超参数规律等。
AI Infra进入自进化时代！清华团队用「AI优化AI」造就国产万亿Token工厂
AI自主优化RSI成新焦点，被视为通往AGI的关键路径。硅谷为此沸腾，中国也不落后。清昴智能由清华团队创立，率先打造自进化算力底座，还基于国产算力打造万亿Token工厂，目标是让优化成为持续运行的基础能力。
腾讯混元AI Infra如何优化Hy3 Preview：一次大模型推理性能提升的技术拆解
文章聚焦腾讯混元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度，剖析技术思路、算法及收益，如Attention算子单batch长文本最高加速2.95x，还提及后续显存优化等工作。
刚刚，中国语音AI连拿多项全球第一！
本文报道阶跃星辰推出StepAudio 3全系列五款音频大模型，覆盖听、说、理解、交互、创作全语音链路，拿下三项第三方评测全球第一，分析了语音AI行业从单点竞赛转向全栈体系竞争的新趋势。