搜索：多工具推理 - AI Reading Hub

「多工具推理」共找到 6799 篇相关文章

最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？

文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。

北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。

蚂蚁集团与西安交通大学联合提出并开源 HumanSense，含评估基准与推理模型。通过细粒度评测、全模态消融等研究，提出优化策略，项目已在 GitHub 和 HuggingFace 开源，推动 AI 交互体验革新。

2025年IMO赛场，顶尖大模型起初表现不佳后有突破。蚂蚁AWorld项目团队6小时复现并开源DeepMind解题结果，给出可一键运行系统。AWorld证明多智能体协同优势，还介绍复现思路、核心优势及体验方式。

Anthropic公布Claude Code黑客松六强作品，包括虚拟诊室、电路板维修工具、编程教学平台等。这些项目来自不同职业背景的人，用Opus 4.7 + Claude Code完成，将专业知识转化为工具，传承人类经验。

在周二的AI基础设施峰会上，英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台，性能卓越，还能复用现有平台，预计2026年底上市。

推理语言模型（RLMs）发展显著，DeepSeek - R1发布引发广泛影响且未完全开源。MiroMind等总结其复现研究，关注SFT和RLVR方向，介绍数据构建、方法设计、训练过程细节及实验关键发现。

Nanobrowser是开源Chrome扩展工具，专注AI驱动的网页自动化。免费且本地运行，保护隐私，支持多主流大模型。有多智能体协同等特点，还介绍了安装配置方法，是高效安全的网页自动化之选。

全网传 OpenAI 将在 Dev Day 发布类似 n8n、dify 的 Agent Builder，TestingCatalog 试用称其为‘最流畅的 Agent 构建画布’。它能让开发者在统一界面操作，或影响自动化工具市场。

Chrome MCP Server是基于chrome插件的模型上下文协议服务器，能让大模型或chatbot接管浏览器。它有chatbot/模型无关、用原本浏览器等特性，与同类项目比优势明显，还介绍了使用步骤、工具及示例。