「低延迟推理」共找到 2954 篇相关文章
SCPMA|清华大学 张宇飞团队：基于改进傅里叶神经算子的翼型流场快速预测模型
传统计算流体力学在工程场景计算成本高，深度学习方法预测精度与泛化性不佳。本研究基于傅里叶神经算子构建流场预测模型，经改进能精确预测超临界翼型流场与气动力系数，误差低且泛化能力优。
企业数据“LLM ready”与“小Palantir”们的崛起 ｜ AGIX PM Notes
文章指出当前 AI 仍处准备阶段，企业数据未就绪是落地大障碍，深层问题是流程 AI 原生化转型。还介绍本周市场、多家科技企业动态，以及巴菲特和芒格对 ETF 的看法及投资建议。
字节Seed提出M3-Agent：像我们一样"记住"与"思考"的长视频理解新范式
字节Seed提出M3 - Agent，这是首个融合实时视听输入、类人记忆构建与自主推理的多模态智能体。它模仿人类记忆机制，解决长视频理解痛点，已被CVPR 2025收录并开源代码，为通用人工智能奠定基础。
GPT-5 不是技术新范式，是 OpenAI 加速产品化的战略拐点
文章从不同视角评价 GPT - 5，指出它是 ChatGPT 产品重要升级，是 Router 驱动系统。介绍其能力提升与短板，如 Vibe coding 性价比高但 Agentic 能力不足，还探讨了商业影响、价格战等，期待其 Agentic 能力发展。
OpenAI深夜祭出GPT-5，所有人能免费用！Altman：像和博士级专家对话
北京时间8月8日凌晨，OpenAI推出GPT - 5，宣称其更智能、准确，幻觉率低。还推GPT - 5 - mini和GPT - 5 - nano两款新模型，免费用户可使用部分版本。它在编程和健康领域测试表现出色，引发各界热议。
Grok 4基准测试被爆极其优异，人类终极考试成绩飙升到45%，碾压o3 和Gemini的20%
API开发者曝光Grok - 4和Grok - 4 Code测试成绩，HLE达35%，推理后飙升到45%，远超o3和Gemini的20%。其他测试也表现优异，但成绩引发争议，有人质疑数据污染，也有人支持，目前数据未官方证实。
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。
最低仅需2G显存，谷歌开源端侧模型刷新竞技场纪录，原生支持图像视频
今天凌晨，谷歌官宣Gemma 3n，原生支持多模态。它在大模型竞技场超1300分，是首个超此分数的10B以下模型。其VRAM占用低，最低2GB，已在谷歌AI Studio等可用，还公开了技术细节。
直播预约 | SwS: 强化学习训练能否不依赖外部知识优化模型的弱点？
该论文提出强化学习场景下的启发式数据合成流程（SwS），利用模型自我感知弱点驱动自动化问题生成，弥补推理缺陷。对其扩展后适应性更广，在多基准测试集和模型上验证有效，性能提升显著。
o3-pro正式推出！说声“嗨”就花了80美元，思考1+1用时16分钟
OpenAI推出推理模型o3 - pro，同时o3降价80%。官方测评o3 - pro表现佳，但价格贵、响应慢。o3‘是否降智’引争议，奥特曼发小作文探讨AI对人类社会影响，还透露公开权重模型推迟。