「推理服务」共找到 2675 篇相关文章
随着 AI 内存需求推高非 AI 基础设施价格，OVHcloud 将上调服务价格
OVHcloud 将于秋季上调多数服务价格，主因是自 2025 年年中起内存与存储组件成本大幅攀升，创始人 Octave Klaba 认为是 AI 算力建设热潮挤占了普通服务器核心组件的晶圆制造产能。
腾讯混元AI Infra核心技术重磅开源：推理吞吐提升30%！
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。
“边说边思考”，Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。
生产级Prompt自动化推理评估A/B实验结果的工程实践
本文围绕生产级Prompt自动化推理评估A/B实验结果展开，介绍系统背景与痛点，展示主Prompt和决策树，用deepseek - r1等模型推理。通过分析Bad Cases优化Prompt，总结设计原则和迭代方法，还给出通用启示与展望。
汇丰科技25年丨植根中国，服务全球，加速金融创新和数字化进程
汇丰科技中国从 16 人团队成长为全球科技中心，率先用区块链、AI 等技术为全球跨境交易提速。25 年来扎根中国，在技术、人才等方面成果显著，未来将持续提升创新与服务能力。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
坪山芯链通！坪山区半导体与集成电路公共服务平台联动发展活动圆满举办
4月28日，坪山区半导体与集成电路公共服务平台联动发展活动举办。活动通过平台揭牌、演讲、参观等环节，搭建政企学研资协同平台。六大平台展示成果与能力，活动打通平台与企业沟通渠道，助力产业发展。
Gemini再揽金牌，力压大学学霸，AI数学推理时代来了！
苏黎世联邦理工学院博士生在大学生国际数学竞赛（IMC）测试了Gemini三种模式，其表现远高于金牌门槛，远超普通大学生。研究人员还从模型输出提取见解，展现了Gemini在数学推理上的优势，凸显AI数学推理能力日益强大。
三个月、零基础手搓一块TPU，能推理能训练，还是开源的
加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身，从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法，及推理、训练的实现。