「实时视频推理」共找到 3149 篇相关文章
刚刚，美团开源 SOTA 推理模型 LongCat-Flash-Thinking，性能逼近 GPT5-Thinking
美团宣布开源高效推理模型 LongCat-Flash-Thinking，性能逼近 GPT5-Thinking，是国内首个结合多种推理能力的大语言模型。它采用新方法提升性能，已在多平台开源，API 平台免费开放，还兼容主流 API 格式。
干掉延迟！12G显存就能实现实时AI换脸直播，开源免费。
推荐开源项目PersonaLive，它是基于自回归流式扩散技术的实时人像动画生成框架。能平衡画质与低延迟，用一张照片在普通显卡实现数字分身实时驱动，有低显存、无限时长等特点。
最鲁棒的MLLM！港科大开源「退化感知推理新范式」 | AAAI'26
多模态大语言模型（MLLMs）在真实世界视觉退化下性能崩溃，制约产业落地。港科大等团队开源的Robust - R1被AAAI 2026接收为Oral，提出显式结构化推理新范式，实现质量与鲁棒性双重突破。
面壁MiniCPM4推理速度3倍，碾压同尺寸Qwen3，阿里上眼药了~
面壁发布包含10个模型的MiniCPM4系列，其推理速度快。它有高效模型架构、学习算法、高质量训练数据和推理系统等创新点，还给出了MiniCPM4实战代码及启用InfLLM v2的参数设置。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。
刘壮陈丹琦新作：开源通用视觉推理RL框架，0思考数据刷新SOTA
普林斯顿刘壮团队、陈丹琦参与推出开源通用视觉推理RL框架Vero。它构建的视觉推理器在30多项测试达8B视觉语言模型SOTA，解决了开源RL方案的问题，所有数据、代码、模型均已开源。
快手高欢深度解读：多模态理解如何成为AIGC视频生成的“幕后功臣”？
2024 年 AIGC 爆发，多模态理解技术支撑 AIGC 原生应用。快手高欢在 AICon 大会分享多模态理解在 AIGC 场景应用，介绍主流 AIGC 产品形态，探讨其背后多模态理解方法、提升能力途径及赋能 AIGC 的方向。
AI 推理精细化流量治理实战：RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流，传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic，其精细化流量治理方案能实现‘千人千面’，解决队列头部阻塞和并发效率受损问题，还与阿里云百炼网关合作。
开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路
大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。
扩散语言模型九倍推理加速！上海交大：KV Cache并非自回归模型的专属技巧
上海交通大学EPIC Lab团队提出免训练推理缓存机制dLLM - Cache，复用特征降低计算量。它即插即用，通用于主流dLLM架构，在多个基准测试中实现数倍推理加速，且不降低生成质量。