「推理服务基础设施」共找到 2938 篇相关文章
DeepSeek-V3再发论文，梁文锋署名，低成本训练大模型的秘密揭开了
DeepSeek 发布围绕 DeepSeek-V3 的技术论文，从硬件架构和模型设计双重视角，探讨实现经济高效的大规模训练和推理的方法。介绍了 DeepSeek-V3 的创新设计，如 DeepSeekMoE 架构、MLA 架构等，还给出未来硬件架构设计建议。
独家对话希捷科技Jason Feist：AI时代，企业正在“删除删除键”｜甲子光年
本文是「甲子光年」对希捷科技云存储业务高级副总裁杰森·费斯特的独家对话。费斯特指出，AI 基础设施正从计算、内存转向存储，企业倾向长期保存数据，高容量硬盘重要性凸显。他还探讨了存储系统变化、技术创新等问题。
当数据库的主要用户不再是人类：我们在 AI Agent 场景下的架构实践与思考
文章分享了服务 AI 公司时在 Agent 场景下数据库架构的实践与思考。介绍 Agent 工作负载特征，通过三个案例说明数据库面临的挑战及解法，还提到新需求催生开源项目 mem9，并给出实践教训，指出 AI 时代数据基建重要性。
3年增长54倍，ARR 50亿美金，它如何跑通“第二名”AI商业化难题
Anthropic从OpenAI分化而来，3年估值从34亿美元涨至1830亿美元，近期完成130亿美元F轮融资。它先技术突围探索Claude系列，后场景突围确定优势领域，在编码场景领先，与OpenAI发展模式不同，靠API服务企业。
字节最强多模态模型登陆火山引擎！Seed1.5-VL靠20B激活参数狂揽38项SOTA
5月13日，火山引擎在上海发布5款模型和产品，其中豆包1.5・视觉深度思考模型（Seed1.5-VL）最吸睛。它激活参数20B，性能与Gemini2.5 Pro相当，38个评测基准达SOTA，推理成本低，已开放API。
参数砍到 1B，这个小钢炮拿下多模态第一
面壁智能发布并开源参数量仅 1.3B 的 MiniCPM-V 4.6，虽小但多模态综合能力在 1B 级别中夺冠。它推理快，效率高，靠两大架构创新实现，还为开发者提供完整工具链。
清华2年前预言，正成为全球共识！Meta等三大AI机构已得出同一结论
全球三家AI研究机构结论曲线斜率几乎重合，而中国面壁智能和清华联合团队两年前提出的“密度定律”与它们一致。该定律改写行业假设，如推理成本下降、端侧智能爆发临近、大模型策略反转等。
明天上市，MiniMax上市额度已经被抢疯了
大模型公司MiniMax 1月9日将敲钟上市，创下港股IPO机构认购记录，超460家机构参与认购，超额认购70多倍。它受头部基金青睐，暗盘涨幅24.6%，收入源于AI产品与服务，部分投资者看好其收支平衡。
华尔街彻夜难眠！Gemini 3屠榜金融「最难考试」，AI砸了「金饭碗」？
被誉为「黄金职业通行证」的CFA考试被AI攻陷，推理模型不仅全部通过三级考试，部分科目接近满分。如Gemini 3.0 Pro在一级考试创97.6%最高纪录。不过AI仍有局限，还不能完全替代分析师。
OpenAI拉响红色警报！暂停广告和Agent，下周发布新模型硬刚Gemini 3
面对Google等对手的竞争，OpenAI宣布进入‘红色警报’状态，下周将发布新推理模型硬刚Gemini 3 pro。Altman暂停部分项目，调配资源升级ChatGPT，重点修补‘模型行为’，提升产品体验，还注重图像生成。背后是融资需求压力。