「长文本推理」共找到 2843 篇相关文章
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理,通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程,以及优化策略和配置启用方式。
微软最新财报:总营收701亿美元,云与AI业务增长强劲
微软发布2025财年第三季度财报,营收701亿美元,同比增13%。生产力与业务流程、智能云、个人计算等业务均有增长,云业务营收424亿美元,同比增20%。董事长称云与AI是关键,CFO表示业绩强劲。
Qwen3.8-Flash:全新架构,更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型,它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级,降低训练与推理成本,即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
大模型之外,向量存储如何支撑 Agent 的检索链路
文章指出大模型负责理解、推理和生成,而Agent需获取外部数据等。向量存储可将数据转化为语义向量,在Agent执行任务时找回相关内容。文章探讨向量存储技术方向,分享做法,还演示阿里云两种Serverless向量存储用法。
独家对话 Looki 创始人孙洋:摸着自己过河
本文是对Looki创始人孙洋的独家专访。Looki L1发布后意外大火,但前期市场策略保守,未突出AI。用户使用时长超预期,产品隐私设计消除担忧。团队在供货、软件迭代等方面不断探索,商业模式也在摸索中。
谁押中了「国产GPU四小龙」?
今年10月英伟达因出口管制退出中国市场,国产GPU厂商迎来「上市潮」。「国产GPU四小龙」燧原科技、壁仞科技、摩尔线程和沐曦股份受关注,本文梳理其投资情况,涉及早期伯乐、各方投资意图及上市前景等。
NVIDIA港大MIT联合推出Fast-dLLM v2:端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限,Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM,用约 1B tokens 微调,端到端吞吐量最高提升 2.5 倍,精度相当。
医疗幻觉率比DeepSeek低3倍,百川循证增强大模型横扫全球医学考试!
百川智能发布首个循证增强医疗大模型Baichuan - M2 Plus,将循证医学理念融入训练和推理,首创六源循证范式。其在多场景评测中幻觉率低,多国医考成绩优异,已上线百小应APP并开放API。
“智元机器人收购A股上市公司是创新需要…现金流能撑三年”
智元机器人收购A股上纬新材后公开亮相,董事长邓泰华透露融资、出货等规划。其团队高管回应收购舆论、技术成果及合作等问题,如远征A2高温行走突破、与上市公司合作原因等,还提及出海和工业场景ROI规划。
解决扩散模型过拟合的创新框架T-LoRA
预训练大型文本到图像扩散模型定制化时,样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架,动态调整训练能力、用正交初始化,实验显示其在单图像和多图像任务表现优,用户更偏好其生成图像。