「低延迟推理」共找到 2951 篇相关文章
跨境电商版Sora发布：全球首个AI原生电商视频Multi-Agent来了
营赛AI发布跨境电商版Sora——inSai Hilight。它无需拍摄素材与复杂提示词，扔个商品链接或图，20 - 30分钟就能生成逻辑严密、商品还原度100%、符合TikTok爆款节奏的营销视频，重新定义电商营销视频生产方式。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
OpenAI内部代码泄露！最强模型「皇帝」登基，0思考延时吓人
OpenAI代码泄露，神秘的「企鹅家族」模型在测试，代号Emperor的推理预算最高。同时，ChatGPT将推「记忆搜索」功能。此前谷歌Gemini 3抢份额，OpenAI或提速发布GPT - 5.2抗压。
Gemini 3 上线两周，ChatGPT 日活下降 6%，Altman 内部信拉响红色警报
2025年12月初，AI领域权力转换，Google新一代多模态模型Gemini 3挑战ChatGPT。自其发布两周，OpenAI日活降6%。Sam Altman发内部信拉响警报，要求聚焦提升ChatGPT核心体验。
奥特曼怕了！GPT-5.5「大蒜」决战谷歌，红色警报紧急拉响
三年前ChatGPT让谷歌恐惧，如今OpenAI被谷歌逼得拉响‘红色警报’。OpenAI计划发布新推理模型，‘Garlic’预训练有突破，还启动下一代模型。OpenAI调整策略，聚焦提升ChatGPT体验。
美团LongCat扎扎实实做了件难事：LLM数学新天花板AMO-Bench
美团LongCat团队联合高校推出AMO - Bench，用50道原创奥赛级难题评估LLM数学能力。它解决现有基准测试痛点，经四重把关构建，测试显示顶级模型表现不佳，也揭示模型提升空间大。
AI Code赛道跑出一匹黑马：字节Doubao-Seed-Code
字节发布面向Agentic Coding任务优化的编程模型Doubao - Seed - Code。它在代码能力、生态兼容性、价格上优势明显，在实际案例中表现出色，其训练体系独特，为开发者提供高性价比选择。
听了Andrej Karpathy最新2小时访谈，我对Agent彻底祛魅了
Andrej Karpathy在播客中表示，Agent发展还需十年，离像实习生工作还差很远，要解决诸多能力问题；他认为强化学习糟糕但其他方法更糟，还提出AI应削减背书式记忆、未来强大AI或仅十亿参数等观点。