「双模式推理」共找到 2617 篇相关文章
vLLM 新特性：批量大小不再影响模型输出
vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。
她们估值840亿，刚发了第一个AI成果
估值超120亿美元的Thinking Machines发布首篇研究博客，由创始人、OpenAI前CTO Mira Murati宣发。研究聚焦克服大语言模型推理中的不确定性，探讨推理结果难复现的根源，还介绍解决办法并验证效果。
全球首次，Transformer「混血」速度狂飙65倍！英伟达已下注
康奈尔、CMU等机构研究者提出「混合体」Eso - LM，融合自回归和离散扩散模型范式。它引入KV缓存机制，推理速度相比标准MDM提升65倍，在速度与质量平衡上超越BD3 - LM，引发AI领域关注，英伟达或押注此方向。
DeepSeek比你更懂反思！谷歌重磅发现，智能的本质竟是一场社会化对话
谷歌等机构研究发现，像DeepSeek - R1等推理模型思考复杂问题时，内部模拟多角色辩论赛，形成思维社会机制，让AI准确率提升，证明智能本质或是内化社会互动，还为调优AI提供新方法。
刚刚，GPT-5 横扫编程奥林匹克，5 小时打穿 12 题！人类最强队伍只能做出11道
2025年国际大学编程竞赛世界总决赛（ICPC）上，GPT - 5和OpenAI实验推理模型5小时解完12道题，超越人类最强队伍。Google DeepMind的Gemini 2.5 Deep Think获10/12。此成绩展示推理系统惊人进步。
其实，扩散语言模型在最终解码之前很久，就已确定最终答案
随着扩散语言模型（DLM）发展，它成自回归（AR）模型有力替代。但实际推理慢于 AR 模型。研究者发现早期答案收敛现象，提出 Prophet 策略，实验显示其能在保持高质量生成时显著加速推理。
在北京，总要去东城体验一次“数字幻境”吧
在北京东城，XR沉浸式技术落地生根，打造出多种新型消费场景。王府井有裸眼3D大屏、元宇宙沉浸场等；前门大街的科技体验馆有VR沉浸式体验剧；隆福寺有索尼探梦、XR艺术空间等科技玩法。
深入理解OpenClaw技术架构与实现原理（上）
文章深入解析OpenClaw技术架构与原理，它以Gateway为核心，是高度灵活的个人AI助手系统，改变了软件开发范式。涵盖统一控制平面、推理循环、定时任务等多模块。如Gateway负责消息路由等，推理循环控制运行逻辑。
战火升级！奥特曼正式杀入脑机接口，这次不用切脑
近日，奥特曼邀专家加入脑机接口创业公司Merge Labs，计划以8.5亿美元估值融资。它将采用非侵入式技术，与马斯克Neuralink的开颅手术竞争，奥特曼曾投资Neuralink但不认同其侵入式做法。
微软、哈佛开源创新优化器：全面超越Muon，提升大模型训练效率
随着大模型训练所需计算资源爆炸式增长，微软和哈佛团队联合开源优化器Dion。它利用低秩近似和解耦动量缓冲区，避免分布式训练同步完整梯度，在集中式和分布式场景都有高效表现，性能超Muon。