「推理加速技术」共找到 4890 篇相关文章
装机量超2000万、全球主流GPU与AI框架“开箱即用”!OpenCloudOS成AI时代优先选项
在大模型训练迭代快、算力需求高但 GPU 利用率低、生态碎片化的背景下,2025 OpenCloudOS 操作系统生态大会举办。OpenCloudOS 围绕 AI 升级技术,构建能力闭环,还发布智能基座,降低产业链技术摩擦。
谷歌「推理之王」也跑路Meta了,当年还是李飞飞挖来的
谷歌「离职潮」含金量提升,「推理之王」周登勇跳槽Meta。此前Noam Shazeer、John Jumper等也相继离开。谷歌全力「武装」AI Coding突击小队,重构Gemini训练方式,与原世界模型AGI路线冲突。
3年、1万人,快手技术团队首次系统披露AI研发范式升级历程
快手首次系统性披露自2023年以来的AI研发范式升级历程。其研发效能演进分三阶段,从平台化到智能化,虽遇个人提效难传导至组织提效的问题,最终仍找到提升需求端到端交付效率的路径。
关于多模态大模型Token压缩技术进展,看这一篇就够了
多模态大模型跨模态融合带来高计算成本,催生MLLM Token Compression研究。北大等机构人员基于压缩位置对方法系统归类,讨论特定场景压缩机制选择,还探讨了挑战与前景方向。
Hugging Face 开源 HopeJR 机器臂!本周四直播带你深入技术核心
Hugging Face 的 LeRobot 项目开源了 23 自由度的 HopeJR 机械臂系统,软硬件全公开,支持遥操作。它制造门槛低,3 步可搭建,支持数据采集训练模型。本周四晚 23 点直播揭秘其技术。
3行代码做出自己的数字人,GitHub爆火的国产项目你用上了吗?
中国硅基智能推出HeyGem与DUIX两大开源项目,在GitHub引发热潮。HeyGem能快速克隆数字分身、生成4K视频,DUIX支持实时交互,二者构建完整技术闭环,推动数字人技术普及。
SGLang原生支持昇腾,新模型一键拉起无需改代码
12月20日SGLang AI金融π对收官,聚焦大模型推理效率。昇腾成SGLang原生支持后端,助DeepSeek等模型免调参运行。SGLang给出推理系统工程解法,昇腾与SGLang深度共建,性能优且全面拥抱开源。
ACL 2026 | 赋予视频生成「视觉思维链」:VChain显式建模时空规划与状态演变
南洋理工大学团队在ACL 2026发表VChain框架,引入大模型视觉推理能力提升视频逻辑连贯性。它分三步实现,实验效果超现有方法,还展示视频推理与生成的潜在趋势,为多模态模型协作提供范例。
Manus 产品立项初期会议纪要
该文是 Manus 产品立项初期会议纪要,从核心定位到技术架构、用户体验、人机协作等多方面深入探讨,为项目明确战略、技术、产品层面核心原则,开启重新定义智能体之旅。
斯坦福7B智能体全面超越GPT-4o,推理流登顶HF
传统智能体系统难兼顾稳定性和学习能力,斯坦福等团队提出AgentFlow框架,通过模块化和实时强化学习优化策略,使7B参数模型在多任务上超越GPT - 4o等大模型,为AI发展提供新思路。