「全模态推理」共找到 3737 篇相关文章
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
狙击Gemini 3！OpenAI发布GPT-5.1-Codex-Max
Gemini 3力压全场，OpenAI发布GPT-5.1-Codex-Max应对。它突破上下文窗口限制，能连续工作超24小时，在METR达新SOTA，推理更快，还推出xhigh推理力度选项，已支持与多种工具结合。
AI 企业 Day 0 出海，如何少走技术弯路？
InfoQ与多家AI出海企业交流发现，很多企业放弃常见Agent平台和流行框架，选择自研全栈平台。GMI Cloud升级产品，构建完整基础设施图谱，解决全球算力部署、模型调用和Agent商业化落地问题。
谷歌新论文把内存股价干崩了！KV cache压缩6倍，“谷歌的DeepSeek时刻”
谷歌研究院推出TurboQuant压缩算法，可将AI推理中最吃内存的KV cache压缩至少6倍且精度零损失，还能8倍加速计算。虽引发存储芯片巨头股价下跌，但目前只是实验室成果，仅解决推理阶段内存问题。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
逆天！Mata用13个参数26字节让模型正确率从76%飙升至91%
Meta等机构研究人员发布TinyLoRA极致微调技术，配合强化学习，能在几乎不改变大模型原有结构下，用极少数参数激发其推理能力。该技术在数学推理上表现出色，还探索了参数共享策略和存储精度问题。
别再幻想 Vibe Coding 打天下，AI 编程最实用的功能是这个
OpenAI 创始成员 Andrej 起初提出 Vibe Coding，后改变观点，称应让不同工具在不同场景各司其职，且其常用 AI 编程功能是代码补全。字节跳动 IDE Trae 里的 Cue 功能在代码补全领域下足功夫，体验出色。
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
她们估值840亿，刚发了第一个AI成果
估值超120亿美元的Thinking Machines发布首篇研究博客，由创始人、OpenAI前CTO Mira Murati宣发。研究聚焦克服大语言模型推理中的不确定性，探讨推理结果难复现的根源，还介绍解决办法并验证效果。