「推理时代」共找到 3167 篇相关文章
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
大模型之外，向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成，而Agent需获取外部数据等。向量存储可将数据转化为语义向量，在Agent执行任务时找回相关内容。文章探讨向量存储技术方向，分享做法，还演示阿里云两种Serverless向量存储用法。
这次，钉钉领先半目
钉钉发布会前，阿里成立Alibaba Token Hub事业群，设悟空事业部，钉钉归入其下。无招回归后思考AI时代钉钉形态，革故鼎新，推出真经系统等，在制造业案例展现优势，强调可编程企业概念，悟空有望带来新商业想象。
不卷速度卷验证，陈天桥MiroMind精准预测15天后黄金价格
陈天桥带队的MiroMind发布新一代重型推理智能体MiroThinker-1.7和MiroThinker-H1，在基准测试中表现优异，超越众多顶尖模型。该模型不仅通用任务强，在科技金融等专业领域也表现亮眼，还能承担真实长链条智力任务。
NBA球星，成为英伟达副总裁
本文用一张「组织透视镜」，带你看清英伟达36人的角色分工、黄仁勋的管理逻辑，以及它对AI时代公司的启发。黄仁勋以扁平化直管36位高管，减少层级，让信息流动，使公司保持创业般的冲劲。
Agent 如何用搜索？这家最懂 AI 搜索的团队，把踩过的坑都分享出来了
AI时代搜索与传统搜索大不同，人类搜索是静态检索，AI搜索是动态、流式、可追问的。小宿科技作为AI Agent基础设施提供商，分享了为Agent提供搜索服务的经验，包括不同场景下AI应用接入搜索的难点与解决方案。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
医疗幻觉率比DeepSeek低3倍，百川循证增强大模型横扫全球医学考试！
百川智能发布首个循证增强医疗大模型Baichuan - M2 Plus，将循证医学理念融入训练和推理，首创六源循证范式。其在多场景评测中幻觉率低，多国医考成绩优异，已上线百小应APP并开放API。
刚刚，微软CEO 宣布：AI 医生诊断准确率已达85.5%，是人类医生的4倍
微软CEO宣布其AI诊断系统MAI - DxO在304个病例测试中诊断准确率达85.5%，是人类医生的4倍。该系统模拟虚拟医生团队，既准又省，但也引发诸多质疑，微软认为AI是医生补充，未来是人机协作时代。