「算力引擎」共找到 1128 篇相关文章
低延迟、高吞吐,LLM优化与高效推理引擎综述
LLM计算成本高,用户要低延迟,企业要高吞吐。工程师开发优化技术,如动态批处理、KV缓存、模型量化。论文对比25款推理引擎,还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
数据中心不必建在地球!中国企业已经把算力设施送到了太空
国星宇航牵头“星算”计划,首发星座发射成功,将开启全球“太空计算时代”。太空部署算力可节约能源成本、及时处理数据且更安全,未来将与地面“天地协同”,中国在此领域走在前列。
OpenAI总裁底牌全交了:买下地球上所有的算力
OpenAI总裁Greg Brockman接受访谈,核心观点是世界长期缺算力。他指出算力需求远未释放,H100涨价凸显供应紧张,OpenAI要全买光算力、自研芯片,还谈到价格与利润、产品形态、智能体应用及医疗领域潜力等。
黄仁勋抢吃龙虾:英伟达新核弹10倍算力提升,OpenClaw自由了
北京时间凌晨,英伟达GTC大会召开。CEO黄仁勋称正处新平台变革开端,算力需求爆发。推出Vera Rubin系统,性能提升显著,还有新推理芯片LPU。上线NemoClaw保障安全,AI在物理世界也加速落地。
抢天才还是拼算力?前 Llama 推理负责人详解 AI 的真实天花板
前 Llama 推理负责人 Ross Taylor 在播客访谈中指出,AI 竞赛中的混乱和挖角是噪声,最终会被指数级算力淹没。他阐释了算力指数曲线决定竞赛天花板,强调系统性实验、高质量评估的重要性。
当 GPU 成为主角:解锁 AI 集群中那 85% 的闲置 CPU 算力
全球AI算力规模增长,GPU成主角,但GPU满负荷运转时CPU利用率低,传统调度机制无法保障优先级,造成资源浪费。TencentOS如意(RUE)的在离线混部技术改造Linux内核调度体系,高效释放算力。
算力都去哪儿了?这个 Seedance 2.0 生成的梗视频给出了答案
有人用Seedance 2.0将Anakin and Padmé梗做成AI视频讽刺AI行业。视频对话暗示算力用途与宣称不符,最后几秒AI将帕德梅形象处理成擦边画风,揭示算力真实去向。
小扎开建「人类第一算力帝国」!26年榨干当地水电,27年超越星际之门
Meta进军AI超算领域,扎克伯格宣布2026年启用1GW「Prometheus」集群,2027年建成占地如曼哈顿的「Hyperion」计划部署超5GW级算力,Meta还将自建天然气电厂,力抗OpenAI与马斯克。
浙大开源HugAgentOS:三引擎一体自进化,每步可归因/回放/回滚
过去一年,Agent任务执行能力提升,但不会自主积累与进化。浙大开源的HugAgentOS把Harness拆成三个可自我成长的引擎,设归因和本体两道关卡,解决经验成能力等问题,还覆盖智能体完整链路。
3.5k星星!用AI推演、预测未来,这个开源多体智能引擎做到了。
文章介绍开源多体智能引擎MiroFish,它是基于多智能体技术的AI预测引擎。用户提供种子文件、下达指令,它能构建数字沙盘,让AI智能体互动演化,可用于企业公关等场景,还给出推演流程。