「LLM应用平台」共找到 4080 篇相关文章
快速理解热门LLM大语言模型
本文用通俗易懂方式帮读者理解LLM、Transformer、Prompt等基本概念，介绍大模型API使用，如温度参数、角色设定等，还提及Function Calling、Agent、MCP等内容，并对AI未来发展作出假想。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
Cursor就是最强知识库应用，没有之一
作者认为最好用的知识库应用是Cursor，它有RAG能力，能处理代码和纯文本，可创建修改文档，具备搜索能力且会及时支持先进模型。作者还分享用Cursor配合文档工作的规则及使用示例。
无需训练的LLM对齐方法综述
大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
开源如何促进平台构建过程中的协作
在KubeCon & CloudNativeCon欧洲大会上，Marcy Paramonova和Stéphane Cusin发表演讲指出平台是协作系统，需共同标准。开源提供共享标准与统一语言，还谈到赢得信任、文化转变等方面举措。
Meta通过简单算术解锁LLM SoTA性能
大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
Swift 跨平台框架 Skip 现已完全开源
Skip 是用 Swift/SwiftUI 代码库创建 iOS 和 Android 应用的方案，经三年开发后团队将其完全开源，此前为付费方案。开源既是因开发者希望免费获工具，也为保证工具持久性，它能实现原生体验。
一个开源平台，编织起了Agent「互联网」
如今 Agent 单体能力强但系统分散，开源平台 Octo 应运而生。它由明略科技打造，可聚合 Bot，让其成为企业级资产。Octo 重写协作，有 Matter 沉淀任务，塑造 Taste 让 Agent 更懂用户，还有六种协作模式。