搜索：推理服务基础设施

「推理服务基础设施」共找到 2930 篇相关文章

一文读懂：数据中心“拥抱”ARM架构，为何如此艰难？

文章探讨企业数据中心采用ARM架构面临的难题。如现有x86架构主导，切换有兼容性问题；ARM硬件选择有限、性能不足；云服务功能难对等；软件支持和许可证问题也阻碍其应用。

上海人工智能实验室等团队设计REST框架，在一个prompt里抛多问题模拟复杂推理场景。结果显示，DeepSeek - R1等模型高压下性能大幅缩水，REST能拉开不同模型差距，还揭示评测方法局限。

Avraham Poupko 在 OOP 大会分享软件架构师用 AI 经验，认为软件架构师不会被 AI 取代，AI 适合探索权衡、提炼语言，但缺乏情境推理和情感智能，人类在这方面更有优势。

国外14人团队Delphi获红杉领投1600万美元A轮融资。其产品源于创始人想复活中风祖父，现成长为“数字思维图书馆”。2023年12月测试版上线，有人靠它年入百万，未来想服务大众。

第十届 CCPC 举行，字节 Seed 携 Seed - Thinking 参赛，仅做出一题，DeepSeek R1 挂零。不同模型架构在比赛中差异不大，暴露出大模型做算法题短板，推理模式模型表现更好。

张宏亮童年时便渴望稳定电力，考入复旦后历经行业寒冬。他深耕核材料研究，取得多项成果，能用新技术降低成本、能耗，揭示材料新机制，回国后又搭建研究系统、优化工艺等，还看重产学研结合和跨界融合。

全国人大代表霍启刚一行探访首创·郎园Station的北京AIGC视听产业创新中心，该中心2025年8月启用，集多种服务于一体，已汇聚100家生态伙伴，园区还有众多特色企业，是潮流文化地标。

蚂蚁灵波开源通用世界模型LingBot-World，视觉效果与Genie 3不相上下且时间维度更长，能让用户深度参与，还具备一致性、记忆力等特点。它通过数据和模型层面创新炼成，结合此前开源成果构建具身智能基础设施。

SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。

中国科学院自动化所李国齐、徐波团队发布国产自主可控类脑脉冲大模型SpikingBrain-1.0，训练推理全用国产GPU。它具线性复杂度，超长序列处理速度快，还开源7B模型，为类脑智能发展提供新思路。