「LLM应用平台」共找到 4080 篇相关文章
多模态技术爆发元年，行业应用如何落地？
InfoQ《极客有约》X AICon 直播栏目，邀上海交大赵波、快手高欢、腾讯邵帅探讨多模态大模型。谈及技术挑战、开源闭源、行业落地等，还分享精彩观点，如先大后小蒸馏提效，垂直模型现阶段更优。
RecGPT-阿里的LLM推荐系统落地方案
文章介绍阿里RecGPT推荐系统落地方案，包括召回和推荐可解释性两方向。召回采用三塔结构，通过挖掘用户兴趣生成商品标签提升召回多样性。还提及行为序列压缩、推荐归因等，以及大模型微调和评估方法。
基于 Elasticsearch 创建企业 AI 搜索应用实践
Elastic 中国社区首席布道师刘晓国，分享基于 Elasticsearch 创建企业 AI 搜索应用实践，介绍其向量搜索技术及 RAG 应用开发，还提及智能时代搜索需求变化、混合搜索优势及 Elasticsearch 优化改进等内容。
PDL 在 SGLang Kimi K3 中的应用
文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
刚刚，全球第一CRM收购AI Agent平台Moonhub
今日凌晨，全球第一CRM平台Salesforce收购AI Agent平台Moonhub，Moonhub团队将加入开发Agentforce。此前Salesforce已收购Informatica，其CEO看好AI Agent，愿景是到2025年底开发十亿个智能体。双方在HR智能体功能各有亮点。
Open Responses 规范实现智能体式 LLM 工作流的统一
OpenAI发布Open Responses开放规范，获Hugging Face等支持，为智能体式AI工作流制定统一标准，减少API碎片化，支持多模态输入等，引发行业对厂商锁定和生态成熟度的讨论。
RunAnywhere：简单几步让AI应用跑在手机上
介绍能在手机本地运行的大模型项目RunAnywhere，它让开发者在iPhone 16 Pro Max部署Llama 3.2 3B模型。AI处理本地化，用React Native和RunAnywhere SDK，支持多模型，有多种功能，优势明显。
NVIDIA提出小型LLM才是未来，并将重塑Agentic AI
人工智能代理快速渗透企业场景，但当前系统依赖大型语言模型，存在经济成本和效率错配痛点。NVIDIA团队提出小型语言模型才是代理AI未来，论证其能力、经济性和操作适配性优势，并给出迁移路径。
阿里巴巴新论文：让LLM学会管理记忆，告别人工规则
大型语言模型处理长对话或复杂任务时，记忆管理靠人工规则，效果有限。阿里巴巴团队新论文提出把记忆管理变为可学习的强化学习策略，AgeMem框架统一长短期记忆管理，经三阶段训练，效果显著。