「大模型推理系统」共找到 9002 篇相关文章
GTC 巅峰对话 Jeff Dean x Bill Dally：预训练范式已死、延迟瓶颈不在计算、谈透 AI 五年未来 | GTC 2026
GTC 2026上，NVIDIA首席科学家Bill Dally和Google Jeff Dean展开重磅对话。讨论了模型能力进步、低延迟推理架构、模型自主进化、数据与算力、训练与推理硬件差别等多方面内容，分享对未来AI的看法与见解。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作（RMSNorm、Softmax、Causal Mask、Sampling）背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度，还介绍各操作原理、问题及优化方法。
OpenAI推理第一人离职，7年打造了o3/o1/GPT-4/Codex
刚开年，OpenAI推理模型第一人Jerry Tworek离职，他在OpenAI近七年，是构建o3、o1、GPT - 4等的关键人物。他称离职是去探索在OpenAI难以开展的研究，网友有感谢赞叹也有因人才流失而沮丧。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
统一框架下的具身多模态推理：自变量机器人让AI放下海德格尔的锤子
当前先进机器人无法像人类自如用工具，现有多模态系统有局限。自变量机器人提出端到端统一架构，以统一表示学习和多任务多模态生成解锁具身多模态推理能力，实现范式转换。
黄仁勋CES2026最新演讲：三个关键话题，一台“芯片怪兽”
北京时间1月6日，英伟达CEO黄仁勋在CES2026演讲。回顾过去一年开源模型发展，本次围绕系统与基础设施、模型、应用落地三条主线演讲，展示Rubin架构等成果，推动推理型AI发展及应用。
扒一扒Meta全新大模型Muse Spark里藏着的PDR技术
Meta发布闭源大模型Muse Spark及‘沉思模式’，背后藏PDR推理技术。该技术通过‘并行起草+精炼’突破性能瓶颈，对比传统长CoT范式优势明显，在AIME竞赛题目测试中准确率显著提升。
阿里开源DeepResearch模型，超强“AI研究员”，开启自主智能体新纪元
阿里巴巴通义实验室开源Tongyi DeepResearch模型，是全球首个性能能与OpenAI DeepResearch较量且全开源的Web Agent。它采用先进架构，有两套推理范式，训练方法论有创新，实测表现佳，应用场景广，用Apache - 2.0许可证。
Claude 小升级就赢了OpenAI 9年“开源神作”？高强度推理直接歇菜、幻觉率高达50%，写作还被Kimi 2吊锤？
OpenAI发布首个开源语言模型系列gpt - oss，包括gpt - oss - 120b和gpt - oss - 20b，可在Hugging Face下载。同期谷歌、Anthropic也有新模型推出。gpt - oss有亮点，但也存在幻觉率高、实测效果差等问题。
Mythos限测首日破防，论坛玩家猜网址就摸进门了
4月7日，Anthropic新模型Claude Mythos Preview限量发布，当天就有未授权用户猜出在线地址获得访问权限。Anthropic称未发现自身系统受影响，该模型对齐表现较好，但训练有技术错误。