「低延迟推理」共找到 2944 篇相关文章
从“暴力烧Token”到“系统工程”：OpenAI与华为的两条 AI 编程路径
文章对比OpenAI与华为的AI编程路径，指出模型中心派靠推高上下文窗口但有成本高、延迟大等问题；工具驱动派如Cursor和华为云码道重构IDE工具。码道将任务解耦，通过多技术实现性价比，还介绍了底层基石及其实测表现。
谷歌最强大模型付费上线，在DeepSeek开源后被吐槽太贵
谷歌最强模型Gemini 3 Deep Think上线，推理能力强，能将草图变3D场景、搭建游戏。它在多评测基准表现出色，准确率超GPT - 5 Pro等。但仅向Ultra会员开放，月费约1800元，被吐槽贵，开源的DeepSeek-V3.2成冲击因素。
李建忠：关于AI时代人机交互和智能体生态的研究和思考
在2025全球产品经理大会中，奇点智能研究院院长李建忠分享了大模型驱动的AI产业生态和产品创新。他谈到推理范式转换使模型进入“经验数据时代”，还分析了应用开发、人机交互范式转换及智能体生态演进，预言孤立App时代终结。
接入 MiniMax M2.7 后，我的 OpenClaw「超进化」了
作者实测 MiniMax 新模型 M2.7，其在基准测试、代码能力、多智能体协作等方面表现出色。接入 OpenClaw 后，能高效完成复杂任务。M2.7 指令遵循率高、长上下文处理能力强且价格低，有望提升 Agent 生态表现。
地瓜机器人携手虚时科技，补上具身智能的仿真数据“黑洞”｜甲子光年
5月12日，虚时科技与地瓜机器人联合开发的AnySceneGen平台发布，这是面向具身智能训练的仿真空间生成平台。具身智能训练需海量数据，传统仿真数据生产依赖人工，效率低。该平台以模型替代人工，重构生产方式，优势显著。
不堆参数堆架构，这个8B开源模型把图像理解和生成统一了
商汤开源全新架构的理解生成统一模型SenseNova-U1，虽小尺寸版仅8B参数，却能复刻GPT - Image - 2的不少绝活，在多项指标上登顶开源模型榜首，推理速度逼近主流商用闭源模型。它具备连续性图文创作等能力，底层是NEO - unify架构。
小红书最新开源TTS力作！4人对话自然无缝，毫秒极速响应！
近年来TTS技术爆发，但多人对话的自然流畅性和长序列稳定性一直是难点。小红书团队开源的FireRedTTS - 2是面向多人对话场景的TTS模型，实现自然切换和低延迟，支持多语言，适用于多种场景。
国产LLM大爆发的一周，Hugging Face热榜被承包了！
这一周国产开源LLM集中爆发，GLM - 4.5、Qwen3的5连发、Step3等接连发布。GLM - 4.5是新一代开源SOTA模型；Qwen3各版本在不同能力上提升显著；Step3是多模态推理模型；腾讯还发布了混元3D世界模型1.0。
英伟达护城河又宽了！低调收购开源算力调度王牌工具，全球过半顶级超算在用，Thinking Machines也离不开它
英伟达低调收购SchedMD，其为Slurm系统核心开发商，该系统被全球超半数TOP500超级计算机等使用。收购整合成本低、战略价值高，英伟达承诺保持Slurm开源，但相关项目开发受关注。此外，英伟达还推出Nemotron 3系列开源模型。
OpenAI发布ChatGPT世代首个开源模型gpt-oss，4060Ti都能跑得动。
8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。