「推理优化技术」共找到 5270 篇相关文章
华为开源7B多模态模型，视觉定位和OCR能力出色，你的昇腾端侧“新甜点”来了
华为推出开源多模态模型openPangu-VL-7B，适配昇腾端侧。它推理性能性价比高，在多核心任务表现突出，技术报告还披露核心技术细节，为昇腾使用者带来新选择，丰富昇腾生态。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
LLM省钱大测评！48块GH200，首个百亿级参数量实证
EfficientLLM项目聚焦LLM效率，提出三轴分类法和六大指标，实验覆盖多方面。研究表明效率优化需权衡，最优策略因任务和模型规模而异，且相关技术可迁移到跨模态模型，成果将开源。
92% 工程师都在用 AI 后，Uber 开始给 AI “限额”了
Uber的‘零增长技术栈’解耦容量与业务需求，优化Go运行时性能。还将生成式AI集成开发，92%工程师在用，但成本压力大。为此，Uber限额每位开发者，审查代码效果，完善评估指标。
Gemini CLI 重磅更新：现已支持音视频处理，并带来多项体验升级
Gemini CLI 迎来重磅更新，带来多项改进。新增音视频输入（暂未正式开启）、增强 Markdown 功能，集成 VSCodium 和 Neovim，技术栈升级至 Ink 6 和 React 19，还有主题更新、隐私管理等优化。
首个开源多模态Deep Research智能体，超越多个闭源方案
首个开源多模态Deep Research Agent登场，整合多种工具并优化决策。其WebWatcher技术方案覆盖全链路，实验中在四大核心领域领先主流模型，展现复杂推理和信息检索实力。
硬件成本直降60%！原生分布式VS传统分库分表数据库
服务器硬件价格上涨，传统分库分表架构资源利用效率低。OceanBase 作为原生分布式数据库，通过多种技术优化资源，降低硬件依赖，多个案例显示其能大幅降低成本、提升性能，获 Forrester 认证。
机器人GPT时刻！英伟达WAM赋予全机器人零样本操作能力
英伟达发布世界动作模型 DreamZero，通过耦合视频生成与动作预测，让机器人有物理直觉，能在陌生环境完成复杂任务。它用异构数据学习，适配不同机体，还经优化实现高速推理。
最难AI毕业季逆袭指南！真人类的机会来了
毕业季年轻人面临职场竞争和AI冲击。Reid Hoffman建议毕业生将AI危机转为机遇，掌握AI技术、动态规划职业、利用人际关系和快速学习，让职业被AI优化，创造自己的未来。