「性能 - 效率权衡」共找到 2920 篇相关文章
【万字长文】大模型训练推理和性能优化算法总结和实践
本文总结大模型落地的训练、推理和性能优化算法与实践，介绍语言模型发展，对比BERT、GPT等训练方式，分析生成式大模型问题，还阐述数据处理、推理优化及训练调优等内容，并给出不同场景技术选型建议。
性能大涨！阿里开源新版Qwen3模型，霸榜文本表征
今日凌晨阿里开源Qwen3-Embedding和Qwen3-Reranker两款新模型，专为文本表征等任务设计，支持119种语言。测试显示其性能出色，在多语言文本表征和排序任务中超越众多模型，还采用了多种创新设计与训练方法。
Multi-Agent记忆系统MIRIX：比RAG性能飙升35%，存储减少99.9%
现有AI Agent记忆方案有局限，MIRIX作为模块化多智能体记忆系统应运而生。它由六种记忆类型和多智能体框架组成，支持多种检索功能。在多模态和单模态测试中表现优异，为记忆增强型LLM智能体设新标准。
中国突破！20年芯片散热瓶颈问题被击穿
西安电子科技大学郝跃院士团队在半导体材料领域取得关键突破，解决芯片散热与性能瓶颈问题。他们开发“离子注入诱导成核”技术，革新界面热阻，提升器件性能，应用前景广阔。
不增加人手，项目效率飙升45%，OpenAI公开了一套AI实战经验
OpenAI公开基于大语言模型和专属Skill包的开源仓库维护方法论，将重复工作自动化，使项目代码合并吞吐量飙升45%。该方法由AGENTS.md、Skill包和GitHub Actions构成，还涉及任务分配、验证策略等。
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。
Codex正在重塑传统推理框架开发流程
作者用Codex完善SGLang Diffusion的SKILLS流程，修复诸多bug。让其做benchmark脚本，发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题，Codex找出原因并修复，还提升了模型性能，体现强大生产力。
字节Seed提出序贯策略优化方法，突破同传“质量-延迟”权衡问题
AI字幕质量和延迟难平衡是业界老问题。香港中文大学、字节跳动Seed和斯坦福大学研究团队提出序贯策略优化框架SeqPO - SiMT，在70亿参数规模实现SOTA，翻译质量媲美Qwen - 2.5 - 7B离线水平。
何恺明组三位本科生领衔！持续聚焦Flow模型，突破归一化流生成效率瓶颈
何恺明团队新作聚焦Flow模型，提出双向归一化流（BiFlow）框架，解耦前向与逆向过程，打破传统归一化流生成模型效率低下问题。三位一作是本科生，实验显示其速度和质量表现出色。
小红书 FinOps 实践：云成本优化与资源效率提升之道
在 InfoQ 举办的 QCon 全球软件开发大会上，小红书梁啟成分享云成本优化实践。介绍了小红书用云情况，分析成本优化面临的问题，阐述成本洞察和优化的探索，如内外账分离、CPU 和 GPU 资源提效等，还展望了 AI for FinOps 实践。