「工具投毒攻击」共找到 2039 篇相关文章
对谈 Macaron 创始人陈锴杰：RL + Memory 让 Agent 成为用户专属的“哆啦 A 梦”｜Best Minds
本文访谈 Macaron 创始人陈锴杰，探讨 RL+Memory 让 Agent 发展及 Macaron 产品。他强调 RL 在 Agent 开发重要性，介绍 Macaron 定位、特点、训练方式，还谈及社区设想、RL 应用及产品发展方向等。
AI三问：Agent、LLM、RAG，一文厘清！
文章介绍大语言模型（LLM）、检索增强生成（RAG）和AI智能体（Agent）三种架构。阐述其概念、工作原理、应用场景、优缺点，还做了横向对比，给出选用建议，最后提及混合架构与未来趋势。
马斯克的好兄弟，卡帕西又双叒出新指南！GPT-5 Pro是AI编程最后防线
在「代码后稀缺时代」，Karpathy分享AI辅助编程体会。他认为不同工具各有优劣，Cursor适合日常开发，Claude Code与Codex能完成大块功能但缺「品味」，GPT - 5 Pro是攻克顽固bug的最后防线。
打造你的第一个 AI 智能体：一条清晰的实战路径！
作者发现很多人构建 AI 智能体常半途而废，给出实战路径：先挑极小明确问题，选基础大模型，决定交互方式，搭建骨架工作流，谨慎加记忆功能，配能用界面，小步快跑迭代，控制好范围。
首个故事可视化综合评估框架来了！80个故事单元53种类别，20种技术方案全面对比
随着AIGC技术进步，故事可视化引发关注。阶跃星辰携手上科大、西湖大学提出ViStoryBench可视化评估框架，通过构建多元化数据集、建立多维度评估指标，对超20种技术方案评测，为行业发展提供评估工具。
当代码遇上大模型：智能编程助手的架构设计与工程实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动段潇涵介绍如何基于大语言模型构建智能编程助手。他分享实践经验，剖析研发痛点，介绍技术架构，还探讨未来发展方向，如认知增强、工具整合等。
用 Ollama 本地运行 OpenAI gpt-oss 官方完整教程
OpenAI出教程教用Ollama本地部署gpt-oss-20b或gpt-oss-120b，可实现离线对话、API调用等。介绍模型版本、硬件要求、安装设置，还提及对话、API使用、工具调用、与Agents SDK集成等内容。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
如何将LLM的"思考习惯"迁移到视觉领域？
传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。
Kimi K2发布两天即“封神”？80%成本优势追平Claude 4、打趴“全球最强AI”，架构与DeepSeek相似！
国内独角兽月之暗面发布开源模型 Kimi K2，推出两天就在 OpenRouter 超越 xAI 的 Grok 4。它成本优势大，能力泛化和实用性强，编码、Agent 工具调用等方面表现出色，架构与 DeepSeek 相似。