「瞬时响应引擎」共找到 480 篇相关文章
推理成本太高、算力不够用？单纯堆卡没用，得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上，阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案，覆盖云到边缘、多算力平台。
Google重磅上线通用世界模型Genie 3 - 此即未来。
Google发布世界模型Genie 3，它与Sora等AI视频产品本质不同，像可实时演算的模拟器。Genie 3解决了前辈无法调和的矛盾，在交互、时长、控制等方面有突破，虽有局限，但打开新世界大门。
大神Karpathy都投的AI实时视频生成模型：直播都能立即转，无限时长几乎零延迟
AI初创公司Decart推出首个零延迟无限实时视频生成的AI模型MirageLSD，大神Karpathy都投资了。它能实时生成视频流，无时长限制且延迟低至40毫秒以下，还攻克了传统模型‘误差累积’难题。
卡帕西预言成真！华人团队开源全AI操作系统：神经网络模拟Windows，预测下一帧屏幕图像
大神卡帕西曾预言“AI时代的图形用户界面”，受此启发，华人团队提出NeuralOS，靠RNN和渲染器模拟Windows，能预测下一帧屏幕图像。虽对键盘精细操作处理欠佳，但已开源，有在线体验版。
谷歌突袭发布AI应用，无需Wi-Fi、手机就能跑大模型！网友实测两极分化
谷歌推出 Google AI Edge Gallery 应用，可让用户在 Android 设备离线运行 AI 模型。它有响应快、隐私性好等优点，但网友实测评价不一，还有人认为它落后于苹果 CoreML。
The Batch：820 | Qwen3 向 DeepSeek-R1 发起挑战
阿里巴巴发布八个大型语言模型权重，含两个 MoE 架构和六个稠密模型。预训练数据达 36 万亿 token，支持 119 种语言及方言。测试中 Qwen3 家族表现出色，或终结 DeepSeek - R1 霸主地位，设计用于智能体系统。
强迫模型自我争论，递归思考版CoT热度飙升！网友：这不就是大多数推理模型的套路吗？
近日，概念CoRT火了，它在CoT基础上加了“递归思考”，能让AI递归思考响应、生成替代方案并选最优，结合“结构化自我批判”提升推理力。不过网友质疑它是“新瓶装旧酒”。
去掉 VAE 之后，商汤用 8B 参数重新定义了开源生图的上限
商汤SenseNova U1开源后引发开发者社区关注，它基于NEO - unify架构，摒弃VAE，实现多模态理解与生成原生统一。在多项基准测试中表现出色，还针对企业办公场景优化，成为生产级任务新选择。
国产双开源：让Mac成为你的私人AI工作站
2026年3月底，Ollama将Mac版底层推理引擎换为苹果MLX框架，性能提升显著。明略科技开源Cider和Mano - P，Cider加速推理，Mano - P可操作图形界面，两者结合推动Private AI发展。
Generalist爆火背后：具身智能真正的竞争，已不在模型
Generalist AI发布的GEN - 1模型引爆具身智能领域，其多项指标出色，预示具身智能竞争从模型层转向基础设施层。行业关注焦点转移，数据正从‘静态数据集’演进为‘动态教育系统’，评测与仿真基础设施成关键。