「推理优化技术」共找到 5276 篇相关文章
为什么HBM能摆脱传统周期？
当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动，而AI推理不同，大模型推理对内存依赖是硬约束，GPU更新对HBM需求几乎注定指数级增长。
北大、蚂蚁三个维度解构高效隐私保护机器学习：前沿进展+发展方向
北大李萌课题组与蚂蚁集团研究者共同完成综述，从协议、模型和系统三个维度梳理隐私保护机器学习（PPML）领域，指出当前痛点，给出优化策略，还提出跨层级协同优化方向。
通用级PixVerse P1的技术突破，揣着进入平行世界的密码
PixVerse R1 突然上线，带来「即时响应、即看即创」新体验。它是全球首个支持最高 1080P 分辨率通用实时世界模型，实现从「静态输出」到「实时交互」跨越，本文将解析其技术突破。
一张照片，一个3D「你」：计算所等提出HumanLift，实现高保真数字人重建
中国科学院计算技术研究所等机构研究人员提出 HumanLift 技术，基于单张参考图像重建高斯网数字人全身。该技术融合三维视频扩散模型和人脸增强，仅需单张人体图片就能重建高逼真三维数字人。
字节跳动&清华大学开源多模态时序大模型ChatTS，可实现时序数据对话与推理
字节跳动与清华合作开源多模态时序大模型ChatTS，可实现时序数据对话与推理。它用合成数据训练，解决了数据稀缺等问题，在评估中表现远超基线模型，未来可拓展至更高阶任务。
无需CUDA代码给H100加速33%-50%，Flash Attention作者新作火了
Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库，用Python写，无需CUDA C++。在H100上比优化库快33%-50%，吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。
Data Agent 落地挑战：忽略技术框架、语义能力和运营体系，投入可能打水漂
Data Agent 看似易上手，落地却充满挑战。腾讯数据工程专家虎兴龙指出，90% 难点源于软件工程，统一语义层建设是关键。企业若忽略相关要点，投入或打水漂，掌握关键要素可提升数据智能化效率。
超 10 万人都在看！Qwen3重塑文本嵌入与重排序技术版图
文本嵌入和重排序是NLP和信息检索关键组件。Qwen3 Embedding、Qwen3 Rerank模型基于Qwen3基础模型构建，有三种参数尺寸。文章介绍其架构、训练方案，还给出实战代码。
大模型在具身推理上「翻车」了？4496 道题全面揭示短板
美国东北大学等提出BEAR基准评估MLLM具身智能子能力，用4496道题测试20个模型。发现多模态大模型具身能力不足，还分析错因，开发BEAR - Agent提升模型具身推理能力，在仿真测试中效果显著。
全球首个！国产AI开源系统一周狂改百款软件，全程0人干预
中国正从「制造大国」迈向「智造强国」，国产工业软件面临性能瓶颈。面壁智能联合OpenBMB开源全球首个Stencil优化AI系统ForgeStencil，1周自动优化100+软件，全程0人干预，提升研发效率，切中制造业升级诉求。