「推理服务基础设施」共找到 2938 篇相关文章
50FPS、成本打掉70%，魔芯MoWorld把世界模型带进产业时代
近期，魔芯科技联合浙江大学潘云鹤院士、华为等发布实时交互世界模型MoWorld，推理速度超50FPS，部署成本仅为同规模GPU方案的30%。它全链路优化，将用于多行业，魔芯也完成亿元美金融资。
重新思考 AI TCO：为何每 Token 成本才是唯一重要的指标
在生成式与代理式AI时代，传统数据中心转变为AI Token工厂，企业评估AI基础设施时不应只关注算力成本、每美元FLOPS，而应重视每Token成本，它决定AI规模化盈利，NVIDIA在该指标上表现出色。
靠创始人亲自假扮AI起家，如今估值10亿美元！印度CEO公开反内卷：从不在10点前起床，也不开例会
人工智能笔记创业公司Fireflies如今估值达10亿美元，但其早期是创始人手工敲击键盘提供服务。其CEO反内卷，让员工远程自由工作。不过早期人工假扮AI参会做法引争议，也有人认为是MVP验证。
Qwen拿半成品刷下AIME'25满分，给别人留点面子吧……
开源之王Qwen的Qwen3“超大杯”推理版虽为早期预览版，仍在训练中，但已在AIME 25和HMMT25达100%准确率，超GPT - 5系列。该预览版可在Qwen Chat免费试用，API已上线阿里云。
斯坦福、英伟达和伯克利提出具身Test-Time Scaling Law
斯坦福、英伟达和伯克利团队提出具身Test - Time Scaling Law。研究发现推理时增加计算量可提升VLA模型性能，揭示动作误差与采样数量幂律关系，还探讨关键问题，给出方法，实验证明结合RoboMonkey能显著提升性能。
RLPT：腾讯混元在预训练数据上实现自主强化学习
腾讯混元团队发布RLPT，是在预训练数据上应用强化学习的方法，可突破大语言模型扩展瓶颈。它能让模型自主学习推理能力，无需人工标注，在Qwen3 - 4B - Base模型实验中性能显著提升。
开放全栈！超越π0，具身智能基础大模型迎来真·开源，开发者狂喜
继π0后，具身智能基座模型WALL - OSS正式开源，多项指标超越π0。它是通用多模态具身模型，具良好推理和泛化能力。背后自变量机器人刚完成近10亿A + 轮融资，开源将降低具身智能门槛。
GPT之父把AI扔回1930年：没见过一行代码，却「发明」了Python！
GPT之父Alec Radford带队发布总参数130亿的大模型「talkie」，其训练数据冻结在1930年，没学过编程却能写Python代码，证明LLM可用旧知识推理。团队后续还有升级计划。
智能体工程的隐形技术债：10分钟造出一个 Agent，公司却要为它养一个平台团队
如今构建智能体容易，但投入生产后会面临诸多问题。文章围绕智能体绘制出集成、上下文湖等七个基础设施模块，分析各模块隐性技术债务，并指出不同阶段债务表现，还提及应对措施及相关会议推荐。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。