「LLM平台」共找到 2260 篇相关文章
快速理解热门LLM大语言模型
本文用通俗易懂方式帮读者理解LLM、Transformer、Prompt等基本概念，介绍大模型API使用，如温度参数、角色设定等，还提及Function Calling、Agent、MCP等内容，并对AI未来发展作出假想。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
开源如何促进平台构建过程中的协作
在KubeCon & CloudNativeCon欧洲大会上，Marcy Paramonova和Stéphane Cusin发表演讲指出平台是协作系统，需共同标准。开源提供共享标准与统一语言，还谈到赢得信任、文化转变等方面举措。
跨平台智能媒体处理与创作工具箱
pyMediaTools 是基于 PySide6 的跨平台桌面应用，集成媒体批处理和 AI 音视频创作工具。利用 FFmpeg、ElevenLabs 和 Groq API，有格式转换、语音合成等功能，还介绍了安装、配置、打包方法。
Meta通过简单算术解锁LLM SoTA性能
大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
综述：LLM 驱动AI Agent通信协议与策略
文章指出传统互联网用户完成行程繁琐，而代理互联网可让代理自动完成。随着LLM驱动智能体应用深入，其发展专业化，需多智能体协同，有效通信成关键。介绍了智能体通信定义、分类及多种通信协议。
一个开源平台，编织起了Agent「互联网」
如今 Agent 单体能力强但系统分散，开源平台 Octo 应运而生。它由明略科技打造，可聚合 Bot，让其成为企业级资产。Octo 重写协作，有 Matter 沉淀任务，塑造 Taste 让 Agent 更懂用户，还有六种协作模式。
The Batch: 979 | LLM 清理智能体的“垃圾”
研究人员提出选择性管理智能体记忆之法，小红书Xubin Hao等构建Self - GC。它在送上下文给LLM前，让大语言模型决定内容取舍。测试显示其删历史少且保留必要细节能力强，不过未测其输出质量。