搜索：推理服务基础设施

「推理服务基础设施」共找到 2938 篇相关文章

180亿深圳芯片黑马，华为猛下单

4月25日晚，云天励飞公告2024年营收超9亿，同比增81.3%，截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础，在推理算力、行业赋能、消费级业务均有布局，还与华为等合作。

眼下具身赛道都在抢着做机器人的“大脑”，而地瓜机器人发布的世界模型Uranus却剑走偏锋，做机器人开发的基础设施。它能更客观地评测VLA和世界模型，还能做机器人训练的“场地”。

智谱最新技术博客大倒苦水，称从GLM - 5以来遭遇「Scaling Pain」。团队排查出高负载下推理状态管理等问题致异常，还给出避坑指南，如在线异常监控策略，优化后系统更稳定，吞吐量提升。

Canvas-to-Image 是面向组合式图像创作的全新框架，将不同控制信息整合在同一画布，简化图像生成控制流程。它解决了传统生成流程中控制方式分散的问题，能在推理阶段组合多种控制信号，实验效果良好。

马斯克抛出AI基础设施宏大构想，因地球电力紧缺，计划将AI算力送入轨道，3 - 4年部署有本地计算能力的卫星，后续在月球建工厂用电磁炮发射卫星，最终形成以‘瓦特和吨位’衡量的自生系统。

文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。

腾讯混元团队开源4款小模型，最大7B。可在低功耗场景运行，支持微调。是融合推理模型，有快、慢思考模式，在多领域表现出色，亮点是agent和长文能力，已落地多元业务场景。

Moonshot AI发布Kimi K2大语言模型，采用混合专家架构，总参数量达1万亿。其有多项技术创新，在多个基准测试表现突出。发布两版本，用修改版MIT协议开源，vLLM、SGlang首发支持，已上线多服务。

作者Dwarkesh Patel认为AGI不会马上到来。当前大语言模型缺乏持续学习能力，难以替代人类工作；计算机操作能力受训练周期、数据等限制；推理能力虽有突破，但仍需时间发展。作者给出了具体预测时间。

穹彻智能发布世界动作模型 Noe - 0，全链路采用无本体采集数据。其数据来自真实环境，配合 World Action Model 架构和 AI - Native 数据基础设施，跑通从真实世界经验到机器人能力转化的完整链路，是具身智能的里程碑。