袋袋(Profy)」共找到 807 篇相关文章

开源动态7

SGLang × RoleBasedGroupRBG):打通大模型推理PD分离架构规模化落地的“最后一公里”

PD分离架构对大模型推理部署意义重大,SGLang支持该架构且性能佳。但从测试到生产落地难,存在部署、资源、可靠性等问题。SGLang开源RBG项目,结合二者为PD分离架构生产化落地提供方案。

InfoQ
推荐文章8

一文全解析:AI 智能体 8 种常见的记忆Memory)策略与技术实现

本文剖析8种常见AI记忆方案,如全量记忆、滑动窗口等,分析其原理、特点和适用场景,还给出模拟代码助理解。不同策略各有优劣,适用不同对话场景,能为项目评估、选择和实现Memory方案提供参考。

AI大模型应用实践
产品应用7

一步步实战 CopilotKitAG-UI协议):生成式 UI 与集成 Human-in-the-Loop【下】

文章延续上篇Demo,探索CopilotKit在重要场景的应用,如基于Agent的生成式UI、HITL人类参与流程等。展示了相关实例操作步骤与前端效果,指出其为构建智能应用奠定基础,降低AI融合门槛。

AI大模型应用实践
算法论文8

人类创造力的核心机制,AI已经开始掌握了 | 北大CogSci 2025Oral)

北大团队论文揭示AI开始掌握人类创造力核心机制,提出IEI框架量化评估AI组合创造力。研究发现GPT - 4等在创意理解超普通人,框架优化可提升AI创意输出质量,论文被CogSci 2025收录。

量子位
推荐文章7

Transformer | 一文带你了解Embedding从传统嵌入方法到大模型Embedding)

文章介绍Embedding基础知识,从传统统计方法到如今大模型用例演变过程。涵盖传统、静态、上下文及大模型Embedding技术,如TF - IDF、word2vec、BERT等,还剖析DS - Qwen1.5B的Embedding并以图展示。

AINLPer
6

苹果App Store应用商店上传与APP上传流程必看基础篇)

App 若想成功出现在Store中,开发者还需要经过上传操作和苹果公司严格的审核。同时,App当上架至App

产品应用7

企业官网GEO优化:可直接复制JSON-LD+llms.txt模板适配AI推荐)

文章提供企业官网GEO优化方案,含首页、FAQ页结构化代码及llms.txt模板,还有通用FAQ选题。介绍使用方法、上线校验步骤和生效判断标准,助企业适配AI推荐。

孔生SEO
新闻资讯7

DoorDash 如何打造了一款不完全依赖大型语言模型LLM)的 AI 购物助手

DoorDash 分享对话式 AI 助手 Ask DoorDash 的架构,它借助 LLM、AI 代理等构建系统。测试显示其提升了结账转化率等指标,还构建自动评估框架改进质量衡量,架构分离协调与业务功能。

InfoQ
推荐文章7

2026年必须搞懂的20个 Agent 工程概念运行机制篇):大白话一次讲清。

文章聚焦Agent工程运行机制,介绍20个核心概念。如Agent与ChatBot区别在于会‘做’;Harness是模型运行框架;Execution Model决定思考行动范式等,还给出各概念工程实践建议。

AI大模型应用实践
开源动态7

SGLang 贴近硬件:用编译产物PTX/SASS)评审 PR #26588、DeepGEMM 与架构迁移

本文从「编译产物评审」视角,分析 SGLang 的 PR、FlashInfer DeepGEMM 及 Ampere→Hopper 架构迁移案例。指出算法面和编译产物面会有分歧,编译产物 diff 能提前揭示执行路径变化,对开源项目有增益。

GiantPandaLLM