「推理预测」共找到 2434 篇相关文章
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
大模型之外，向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成，而Agent需获取外部数据等。向量存储可将数据转化为语义向量，在Agent执行任务时找回相关内容。文章探讨向量存储技术方向，分享做法，还演示阿里云两种Serverless向量存储用法。
AST | 西工大崔榕峰、张伟伟等：基于物理约束与双并行注意力UNet++的高保真度三维机翼流场重构研究
传统高保真CFD模拟计算资源消耗大，现有深度学习方法处理三维流场重建面临挑战。本文提出物理约束双并行注意力UNet++框架，实验表明其在流场重构精度上较传统U - Net提升约10%，预测速度提升2 - 3个数量级。
Jeff Dean最新访谈：未来开发者人均50个智能体，写需求成核心技能
谷歌首席AI科学家Jeff Dean在访谈中预言，未来开发者人均管理50个智能体，写需求成核心技能。他还揭秘谷歌帕累托前沿策略，介绍蒸馏技术让小模型接近大模型性能，强调多模态及低延迟价值，给出未来模型发展预测。
ICLR 2026 Oral | 西湖大学发布Real PDE Bench
复杂物理系统时空演化预测是核心问题，当前AI模型多在数值仿真数据上训练，难以评估其在真实数据上的表现。西湖大学等实验室提出RealPDEBench，含真实与仿真数据，设三类任务、九个评估指标和十个基线方法。
“代码 + 编译器”要消失了？马斯克在 xAI 全员会上放话：到今年年底，AI 或将直接生成二进制
xAI 近期出现离职潮，马斯克公开全员大会视频回应。他表示离职是阶段适配问题，还预测到 2026 年底 AI 或直接生成二进制，跳过编程。此外介绍了 xAI 新架构及各团队进展，强调基础设施重要性，甚至提及将算力扩展到月球。
Anthropic刚发布了一份「AI抢饭碗报告」：学历越高越「被抢」
Anthropic《经济指数报告》揭示，任务越复杂AI加速越猛，学历高的工作受影响大。还指出人机协作能大幅提升任务时长，不同国家AI应用有贫富和技术代差，也提到了‘去技能化’问题及对生产率的预测。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
医疗幻觉率比DeepSeek低3倍，百川循证增强大模型横扫全球医学考试！
百川智能发布首个循证增强医疗大模型Baichuan - M2 Plus，将循证医学理念融入训练和推理，首创六源循证范式。其在多场景评测中幻觉率低，多国医考成绩优异，已上线百小应APP并开放API。