搜索：动态算力分配

「动态算力分配」共找到 1224 篇相关文章

低延迟、高吞吐，LLM优化与高效推理引擎综述

LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。

vivo AI Lab团队针对自动手语翻译生成中，无视觉证据支撑的错误累积导致语义偏移的痛点，提出置信度感知策略优化方法CAPO-SLT，仅调整强化学习更新规则，不修改主干网络，在中文手语翻译测试中拿下三项指标最高分，成果将发表于EMNLP'26。

Claude 官方晒出一批来自普通用户的 Claude Code 「神作」，覆盖实用工具、可视化创意和趣味应用等领域，如人脸涂鸦、医学影像查看器、代码库动态图等。这些项目反映出 Claude Code 正走出传统编程场景。

文档OCR正迈入小模型时代，MonkeyOCRv2以0.7B、0.6B参数在MDPBench上超越3B模型。它重新分配系统职责，采用互补预训练目标，还开源训练数据，且迁移到多任务表现良好。

Meta超智能实验室推出图像生成模型Muse Image，引入智能体机制，能编写代码、网络搜索，有自主修正能力，支持算力扩展、多轮编辑与画面合成。还预览了Muse Video，两模型均与Meta产品深度整合。

SpaceX招股书指出AI发展受地球电力短缺制约，马斯克欲把AI数据中心建到太空。而中国远景科技集团打造AI电力系统，实施“Mission Gobi”计划，利用戈壁风光资源建绿色AI算力中心，且已在内蒙古落地实践。

五一假期时，豆包要收费的消息冲上热搜。苹果App Store已现订阅服务声明，分三档，最贵500元/月，目前仅测试，正式上线会发完整信息，且保留免费版。豆包APP日活、用户新增和规模都断层领先。

4月29日凌晨，OpenAI与亚马逊云科技联合发布多个新动态，如OpenAI旗舰模型进Bedrock预览、Amazon Bedrock Managed Agents预览等。双方合作让Agent有持久化记忆，还推出多项产品，亚马逊云科技成MaaS一极。

在Google Cloud Next上，Jeff Dean和Amin Vahdat分享了Google算力帝国崛起秘史。从TPU诞生背景，到自研硬件血泪史，再到软硬件协同设计，还探讨了AI未来瓶颈，如能源、硬件等，以及代码编写现状。

OpenAI首席营收官Denise Dresser发四页内部备忘录，向员工发出「决战动员令」，要从「卖产品」转向「做平台」。备忘录火力全开，抨击Anthropic，还急着与微软划清界限，将亚马逊视为重要伙伴。此外，还曝光了接下来90天要做的五件事。