「推理架构」共找到 3525 篇相关文章
为什么你的 Agent 总是出故障？从算力基建到可信熔断的架构生死线 | 直播预告
本次直播集结值得买、商汤、明略三位技术专家，拆解可信 Agent 的构建之道。将探讨大模型基础设施、可信 Agent 架构、MCP 协议实战等内容，还会解答观众提问。
英伟达再出手！新型混合架构模型问世，两大创新实现53.6倍吞吐提速
英伟达研究者提出新混合架构语言模型 Jet - Nemotron，在达 SOTA 全注意力模型精度时效率卓越，2B 版性能超 Qwen3 等，H100 GPU 上生成吞吐量最高加速 53.6 倍，基于 PostNAS 和 JetBlock 两大创新。
Mini-SGLang，30万行代码浓缩为5000行，大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang，将30万行代码缩至5000行，保留核心特性，为大模型推理提供高性能教学与研究模版，解决教育门槛高和科研原型开发难的痛点，还经测试验证了性能。
阿里开源电影级AI视频模型！MoE架构，5B版本消费级显卡可跑
阿里开源新一代视频生成模型通义万相Wan2.2，含文生视频等功能。它率先将MoE架构用于视频生成扩散模型，5B版本可在消费级显卡部署。对比前代和Sora表现更优，还推出电影级美学控制系统。
3D高斯泼溅，可输入视图量高达500！推理速度提升3倍，内存少80%
ZPressor能高效压缩3D高斯泼溅（3DGS）模型的多视图输入，解决其在处理密集视图时的性能瓶颈。它基于信息瓶颈原理，分三步压缩信息，降低内存占用和推理时间，提升3DGS在高视图输入下的性能。
【AAAI 2026大会特邀报告】从推理到科学发现：AI迈向可精专通才之路
上海人工智能实验室周伯文在AAAI 2026大会提出，当前处于AGI前夕，需通专融合智能。他认为可深度专业化通用模型是实现AGI的可行路径，科学发现是AI前沿，还介绍了SAGE架构及相关成果。
GPT 4o-mini华人领队离开OpenAI：真正推动AI进步不是模型架构，而是互联网
前OpenAI研究员Kevin Lu加入Thinking Machines Lab，该公司2025年7月获约20亿美元早期融资，估值约120亿美元。Kevin Lu曾主导GPT - 4o mini发布，他认为真正推动AI进步的是互联网，而非模型架构。
超越人类标注，Meta提出CoT-Self-Instruct：如何用"推理式自进化"重塑LLM训练
大语言模型发展需海量高质量训练数据，传统人工标注困境重重，现有合成数据方法也有缺陷。Meta提出CoT - Self - Instruct，通过推理式自进化生成数据，实验证明其在多个任务上超越人类标注数据。
硅谷直击：黄仁勋入局龙虾大战，宣告 SaaS 已死，推理算力需求暴涨万倍！
本文为 CSDN 对英伟达 GTC 2026 大会的现场报道。黄仁勋宣告 SaaS 已死，揭幕 Agent 时代，指出 AI 重心正从训练转向推理，还推出 Vera Rubin、LPX 等新品，强调能效即钱，企业软件将向 Agent-as-a-Service 转变。
两个LLM互相对线，推理能力起飞：康奈尔团队发布大模型版类GAN训练法
康奈尔大学团队提出面向大语言模型的类GAN训练框架PasoDoble，通过对抗训练两模型提升推理能力，不依赖外部监督，在多模型实验中显著提升数学基准表现，不过在部分领域外任务有局限。