搜索：并行推理加速

「并行推理加速」共找到 2704 篇相关文章

不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化

随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。

在AI浪潮下，具身智能正加速涌入家用场景。追觅在CES带来多款「具身智能」产品，如洗护、割草、扫地等机器人，它们能自主决策执行任务，或成具身智能家庭化量产进程最快的公司。

2025 年视频生成领域发展迅猛，OpenAI 的 Sora 2 带来新玩法，商业落地加速，但普通用户体验门槛高。12 月 16 日阿里发布万相 2.6 系列模型，功能全面升级，实测效果惊人，标志 AI 视频生成迈向精准可控新阶段。

雷峰网第八届GAIR大会邀请微分智飞高飞，探讨具身智能在飞行机器人领域应用。高飞指出其与传统无人机本质区别，介绍应用场景、分布式集群技术，还谈世界模型价值、挑战及创业契机，认为具身智能是历史拐点。

Jina AI 发布 2.4B 参数量的视觉语言模型 Jina-VLM，在多语言视觉问答任务达 SOTA。它引入注意力池化，连接视觉与语言基座，支持 29 种语言，能高效处理问答等任务，对硬件需求低。

随着AI算力需求爆发与存储行业超级周期开启，存储芯片价格飙升，引发全产业链连锁反应。这源于AI需求引发的结构性供需失衡，涨价将持续至2026年，还推动半导体产业结构升级。

马斯克让Grok 5戴「纯视觉感知」与「拟人延迟」镣铐挑战LOL传奇战队T1。这是终极图灵测试，AI像人一样感知与推理。对决为特斯拉Optimus练兵，若AI看懂团战，就能理解现实世界。

Lumine能像人类一样理解游戏画面、推理并操作，以接近人类效率5小时通关《原神》蒙德主线，还能零训练玩《鸣潮》等。它是开放式研发方案，靠少量数据和显卡让模型成强大智能体。

OpenAI推出GPT-5.1，本周向用户陆续推送，付费用户先行。它有两大核心模型，在遵循指令、推理回复及聊天体验上更佳。还有AMA问答活动披露更多细节，此外官方让自定义ChatGPT风格更易。

超对称公司发布自回归科学基座模型 BigBang - Proton，挑战主流 AGI 技术路线。它实现多学科问题与 LLM 统一预训练和推理，有三项创新，在多专业任务表现出色，还提出宇宙尺度压缩构想。