「混合推理架构」共找到 3646 篇相关文章
别被室内基准高分骗了：大模型是在推理空间，还是在「背答案」？
2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。
英伟达新架构引爆全模态大模型革命，9B模型开源下载即破万
英伟达推出全模态大模型OmniVinci并开源，其90亿参数规模性能超同级别甚至更高级别模型，训练数据效率是对手6倍，能精准解析视频和音频，在多模态应用场景中表现卓越，下载量破万。
扩展外部测试时Scaling Law，中关村学院新发现：轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’，指出内部方法接近瓶颈，外部方法的传统实现有缺陷。提出 TrajSelector 策略，用轻量级打分模型复用隐状态打分，训练无需手动标注，实验显示性能增长稳定。
比RAG高出8.9%，百度TURA：让搜索引擎“动”起来的下一代AI Agent架构
现有检索增强生成（RAG）系统只能读取已索引的静态网页，无法满足用户需实时数据的问题。百度TURA用工具调用把RAG升级为动态交互，其核心分检索、规划、执行三步，已在百度亿级流量场景跑通。
刚刚，GPT-5内测抢先泄露！推理强到离谱，智商被曝140超越人类天才
周五凌晨，GPT-5、GPT-5 Mini和GPT-5 Nano将推出，全网可通过API和ChatGPT访问。GPT-5基准测试结果疯传，实测表现出色。同时，OpenAI发布开放权重模型GPT-oss，登顶开源王座，外媒分析其豪赌开源原因。
CVPR2025视频生成统一评估架构，上交x斯坦福联合提出让MLLM像人类一样打分
Video-Bench视频评估框架由上海交通大学、斯坦福大学等团队提出，能让MLLM像人一样评估视频。它构建双维度评估框架，引入链式查询和少样本评分技术，突破现有评估方法限制，更全面智能地评分。
OpenAI 早期董事会成员：算法与神经网络成“超能架构”，我们如何自处？｜文末赠书
OpenAI 早期投资人里德·霍夫曼新书《AI 赋能》中文版推出。书中提出 AI 应是放大人类行动力的工具，还阐述“超级能动性”概念，强调技术与人类深度共生，批判盲目创新，主张技术锚定人文价值。
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
Uber Hive 联邦架构：1.6 万数据集、10PB 数据去中心化，支撑大规模分析零停机
Uber重新设计Hive数据仓库，将超16000个数据集、超10PB数据去中心化部署，解决可扩展性等挑战。采用基于指针方案迁移，系统含四大组件降低运营风险，还减少存储开销，提升生态弹性。
训练加速1.8倍，推理开销降78%！精准筛选题目高效加速RL训练丨清华KDD
清华大学THU-IDM团队与慕尼黑大学CompVis团队合作提出MoPPS框架，解决强化微调代价高问题。它精准挑题，预测难度，开销低、动态适应且平衡探索利用，在多任务表现佳，降本增效，有新范式。