「通信延迟」共找到 321 篇相关文章
CNCF 孵化用于 Kubernetes 边缘计算的 OpenYurt 项目
云原生计算基金会（CNCF）宣布 OpenYurt 加入其孵化项目名单。该开源平台由阿里巴巴 2020 年创建，将 Kubernetes 扩展到边缘计算环境，保持与上游 API 兼容，能减少延迟、提高可靠性。
“边说边思考”，Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。
NextStep-1：一次在图像生成上自回归范式的探索
阶跃星辰团队探索自回归图像生成新路径，推出 NextStep-1。它直接在连续视觉空间自回归生成，架构简洁，实现端到端训练。模型有高保真生成和编辑能力，Benchmark 表现佳，但也面临稳定性等挑战。
南开 && UIUC | SearchAgent-X，打破「效率瓶颈」，让复杂「AI搜索智能体」走向现实
南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架，解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因，通过两大‘加速引擎’优化性能，实验显示效果显著。
Booking.com 的向量数据库选型：100M 数据、三种负载、一个决定
本文分享Booking.com在1亿条embedding数据规模下，原有OpenSearch向量方案遇到性能、成本、运维瓶颈后，自行设计贴合生产的压测对比不同方案，最终完成选型迁移的全过程，总结了实用经验。
谷歌首次曝光太空AI计划：要建“AI版星链”，AGI的终极基础设施？
谷歌曝光Project Suncatcher计划，要构建太空AI计算集群。此设想是部署卫星星座建“太空数据中心”。虽面临诸多挑战，但从物理学和经济可行性看并非遥不可及，谷歌已发表相关预印本论文。
KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式
KTransformers由趋境科技与清华团队联合研发，是高性能异构推理框架。其论文入选SOSP 2025，还与SGLang合作。它有算子优化等创新，能让CPU与GPU协同，推动推理架构融合，已成广泛复用的底层框架。
“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？
InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。
为MoE解绑：全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。
提速30倍，Meta重新定义了新一代RAG！
LLM时代，RAG成知识密集型任务标准范式，但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化，提出REFRAG框架，有独特训练策略，实验效果显著。