「框架选择」共找到 1963 篇相关文章
从BM25到Multi-Vector:6种Embedding演进路线
文章介绍6种Embedding演进路线,包括Sparse、Dense等,分析其特点、痛点、效果和案例,还给出选型建议,如关键词匹配选Sparse,长文本定位选Multi - Vector,也提及方案选择步骤。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。
Agentic Web:AI Agents如何重塑下一代互联网,一个到处是待研究与落地的方向
论文《Agentic Web: Weaving the Next Web with AI Agents》描绘颠覆性未来,AI 智能体成“数字代理人”,互联网将从“连接信息”向“执行行动”转变。论文给出构建下一代智能互联网路线图,剖析挑战、展示场景并预警风险。
狂揽6.9K star!!微软又来一款王炸项目,实时跟踪、透明可控,牛皮!
微软开源项目Magentic-UI狂揽6.9K star。它是“以人为本”网页智能助手,基于AutoGen框架,可让用户全程掌控,能实时跟踪、透明可控,有协同规划等功能,适合测试、分析等人员。
从概念到生产级部署:AWS如何破解Agentic AI落地难题?
红杉美国合伙人预测2025年是AI agent元年,但此前Agentic AI落地难。AWS在纽约峰会推出系列产品,如Amazon Bedrock AgentCore等,完成从存储到市场的升级,有望推动企业构建Agentic AI。
不会搭工作流?ComfyUI-Copilot迎来更新,说话就能搞定!
几个月前阿里推出ComfyUI - Copilot提升ComfyUI易用性与效率。近期它迎来更新,用智能节点推荐等功能解决新用户难题,核心采用分层多智能体框架,还具备参数探索等功能。
华为曝光两大黑科技!打破推理延迟魔咒,大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新,对MoE模型进行推理优化。FusionSpec依托昇腾特点,将投机推理框架耗时降至1ms;OptiQuant支持灵活量化,为大模型推理提供高性价比。
实战指南:从零构建 MCP 架构下的 Agentic RAG 系统,无第三方MCP Server
五一期间作者用MCP架构从零实现Agentic RAG系统,分享MCP与Agentic RAG融合思考、架构设计,介绍MCP服务端和客户端实现,还做了端到端效果演示,指出架构优势及待优化处。
能识图、看视频,也能理解软件界面:蚂蚁百灵开源Ling-3.0-flash-VL
本文介绍蚂蚁百灵开源的多模态大模型Ling-3.0-flash-VL,该模型采用稀疏混合专家架构,支持图片、视频、软件界面理解,可将视觉信息用于推理与任务执行,开放权重采用MIT许可证供开发者部署测试。
想给产品加一个 AI 搜索,是上向量数据库还是用 MongoDB 就够了?
本文解答产品添加AI搜索时,选用专用向量数据库还是MongoDB的选型疑问,理清两类检索的能力边界,讲解MongoDB检索的架构、用法与踩坑点,给出可复用的选型判断框架。