搜索：大模型推理系统

「大模型推理系统」共找到 9021 篇相关文章

对话 IDEA 张磊：「不以动作为输入条件，就不叫世界模型」

本文是对IDEA研究院张磊的深度访谈。张磊在计算机视觉领域成就斐然，他指出具身智能落地需攻克成功率、泛化性等挑战，大脑比本体更关键。还阐述了世界模型概念及应用，定义其应具备动作依赖等内容。

在 WAIC 2025 前一天，阶跃星辰推出新一代基座模型 Step 3，它是开源 VLM 新晋之王，性能超同类别开源模型，与顶尖闭源 VLM 也有一战之力。该模型具备多开好省特点，还展示了宏大技术生态与商业化布局。

Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。

随着多模态和大语言模型发展，人类与 AI 交互走向共生。现有视频大模型难把握响应时机，西北工业大学等团队在 ACL 2026 提出 Response - G1 框架，实验显示其提升了模型性能。

快手与清华孙立峰团队联合发表论文，提出灵犀系统，这是业界首个大规模生产环境中面向用户个性化体验的自适应视频流优化系统。该系统能解决现有方法在部署中的难题，实现个性化QoE优化。

随着 AI Agent 应用发展，记忆系统成为构建实用 AI Agent 系统的关键技术。文章介绍了记忆基础概念、Agent 框架集成记忆系统的架构，阐述了短期记忆的上下文工程策略和长期记忆技术架构及集成，还分析了行业趋势与产品对比。

本月初 Google DeepMind 发布 Genie 3 引发关注，没过两周昆仑万维就推出开源交互世界模型 Matrix - Game 2.0，参数量 1.8B，单卡可跑，能实现实时长序列、交互式生成，经测试潜力大。

近期，RAE 提出以「冻结的预训练视觉表征」作潜空间提升扩散模型性能。同期西安交大与微软亚研院提出 VFM - VAE，结合 RAE 与 VAE，能加速模型收敛、提升生成质量，展示扩散模型 Tokenizer 演化方向。

腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准，评估大模型扮演多元道德角色能力，揭示顶尖AI模型演不好反派，暴露模型理解社会心理复杂性的局限，还给出未来对齐技术方向。

腾讯混元团队推出CL - Bench Life，用于精准衡量AI在现实生活中的“上下文学习”能力。测试12个语言模型，结果显示模型处理高噪声零碎context能力不足，揭示当前顶尖AI模型还远未读懂日常。