「性能优化」共找到 2833 篇相关文章
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。
PPO-Clip的「盲点」被补齐了？快手提出熵比裁剪方法，从局部约束到全局稳定的关键一跃
快手科技语言大模型团队提出熵比裁剪（ERC）方法，应对强化学习中信任域偏离问题。该方法从全局视角稳定策略分布，在多个数学推理基准实验中提升了模型性能，还与多种方法对比验证了泛化能力。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA，它能高效传输多维数组数据。文中展示用TMA对2D数组操作，如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法，最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。
太初元碁乔梁：AI算法已经跑到单芯片极限｜MEET2026
在量子位MEET2026智能未来大会上，太初元碁乔梁表示，当下AI算力需求指数级增长，超智融合成行业共识。单颗芯片性能成瓶颈，太初元碁设计PC link实现芯片互联，还分享了HPC+AI在多领域的落地实践。
深度访谈：阿里云X平头哥，模型推理提升13倍背后的秘密
这篇深度访谈聚焦阿里云与平头哥，探讨模型推理提升13倍背后的秘密。随着AI焦点转向推理，行业面临算力、成本、监管等矛盾。嘉宾分析推理范式现状与变化，探讨推理加速技术及优化策略，还谈及瓶颈、未来发展及竞争方向。
C3仓库AI代码门禁通用实践：基于Qwen3-Coder+RAG的代码评审
本文介绍C3仓库基于Qwen3 - Coder+RAG的代码评审实践，在CI流水线监听代码修改触发AI评审，可发现逻辑风险、拦截高危缺陷。该实践能提升评审效率与质量，可复用于代码门禁平台或辅助编程工具，当前仍在持续优化。
SD又回来了！一秒出图，手机就能玩：SD3.5-Flash让专业AI绘画进入“闪电”时代
Stability AI联合萨里大学SketchX实验室推出SD3.5-Flash模型，能在普通电脑甚至手机上快速生成专业级高分辨率图片。它将推理步骤压缩、显存要求降低、出图时间大幅缩短，画质也没明显缩水，还在性能上反超SD3.5M。
对话王小川：换个身位，做一家「医疗突出」的模型公司
百川智能创始人王小川与极客公园创始人张鹏长谈。百川曾快速扩张后调整，聚焦医疗。其新发布的医疗大模型Baichuan - M2性能优异，超OpenAI两开源模型。王小川认为造AI医生复杂，且AI家庭医生会比无人驾驶更早到来。
RAG技巧与底层代码剖析
文章深入剖析 RAG 技巧与底层代码，从用 Python 基础库构建 RAG 系统，到多种优化方法如上下文增强检索、添加上下文块标题等，还涉及查询改写、重排序等技术，最后介绍了上下文压缩、反馈机制等提升系统效率和质量的方法。
人民想念DeepSeek
文章探讨AI时代Token相关问题。指出其消耗大、价格贵，存储价格上涨使Token降价缺杠杆，虽模型能力提升、MFU优化可降本，但传导到C端取决于商业考量。还回顾大模型价格战，介绍本地部署及芯片创新方案。