「分布式推理系统」共找到 3610 篇相关文章
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
第 2 章 主流 Agent 模式深度解析
文章深度解析主流 Agent 模式，用生活化类比介绍了 ReAct、Plan - and - Execute、Tool Use、Reflection / Self - Critique 四种模式，阐述其技术要点、优缺点及适用场景，还对多模式进行对比。
顶尖数学家含泪退圈：熬了多年的博士难题，被AI几周秒杀！
顶尖数学学者Rishikesh Gajjala靠AI攻破博士课题，却宣布退出学术圈。他认为AI生成证明虽精巧但难验证，“漂亮证明未验证和垃圾无异”。他投身形式化验证领域，而AxiomProver完成“246定理”形式化验证。
AI开始接管实验室了！玻尔·跃迁实验室：试剂、设备、数据一个入口搞定，1800+设备即插即用
深势科技推出玻尔·跃迁实验室，解决传统实验室设备割裂、经验依赖、数据离散、部署低效等痛点，围绕计算 - 实验 - 数据 - 计算无缝闭环底层重构，与传统 ELN/LIMS 不同。
炫酷全能，一个窗口搞定所有，狂揽 1.5w 星！
Wave Terminal是开源跨平台终端应用，将命令行与图形化工具集成，操作在自由拖拽布局界面完成，减少上下文切换。有灵活布局、强大编辑器等特性，安装简单，创造全新高效工作流。
PaperDebugger：开源的学术版Cursor
PaperDebugger是AI驱动的学术写作助手，能调试和改进论文，提供智能建议。它用基于MCP的编排引擎，模拟学术流程，有聊天、插入、评论等功能，只读取项目，保障隐私。
无需 OCR 就能从各类文档中提取结构化信息的本地化开源工具docext
docext是无需OCR的本地化开源工具，能从发票、护照等文档图像提取结构化信息。智能文档处理排行榜评估VLMs在多任务表现，docext有灵活提取、表格提取等功能。
想给产品加一个 AI 搜索，是上向量数据库还是用 MongoDB 就够了？
本文解答产品添加AI搜索时，选用专用向量数据库还是MongoDB的选型疑问，理清两类检索的能力边界，讲解MongoDB检索的架构、用法与踩坑点，给出可复用的选型判断框架。