「LLM Inference」共找到 974 篇相关文章
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
别再给AI送钱：10款开源工具省80%Claude Code Token，大项目直接砍49倍
使用Claude Code等AI编码工具常遇额度用完、账单超预期问题，80%钱浪费在冗余输出等。社区博主整理10款开源工具，适配主流AI编码工具，最高能将大项目Token消耗砍到1/49，还介绍省Token习惯及互助项目。
成本降九成，准确率100%！MIT反常识架构挑战硅谷信仰
慕尼黑工业大学等研究者指出企业AI落地问题源于数据乱。RUBICON架构用AQL查询语言，把操作权交用户，让LLM在精确范围工作。测试中它准确率100%，成本低，优于现有智能体AI方案。
AI实践｜基于 Spring AI 从0到1构建 AI Agent
本文是基于Spring AI构建AI Agent的实践分享。该项目集成RAG、Function Calling等核心能力。文章从六个核心模块剖析其架构与实现，涵盖配置、访问方式，还介绍各模块工作机制、代码及应用场景。
赛博鸡生蛋，7小时用Claude Vibe Coding一个Mini-Claude
本文是小白向文章，用Vibe Coding方式参考Claude实现精简版Mini-Claude。介绍开发流程，含打通LLM API调用、完成tool use调用等步骤，还提及后续待做事项及对AI开发的思考。
首个大规模记忆湖发布，AI Infra跑步进入“记忆”时代
LLM是AI的“第一大脑”，记忆平台是“第二大脑”。当前AI企业应用进入生产力时代，竞争聚焦“隐性知识”记忆化。质变科技发布MemoryLake，具备多方面能力，在性能上优势显著，已服务众多用户和企业。
Bengio 15 年前论文再夺 AAAI 奖！AI 正告别单纯炫技，走向真实世界
全球人工智能顶会AAAI揭晓年度奖项，Yoshua Bengio 2011年论文获经典论文奖。今年5篇杰出论文研究方向指向AI从炫技走向应用，如ReconVLA改进VLA视觉感知，CADYT解决连续时间因果结构学习空白等。
跳出「黑盒」，人大刘勇团队最新大语言模型理论与机理综述
大语言模型工程成功但理论研究滞后，被视为「黑盒」。人大刘勇团队用生命周期分类法，将LLM理论研究整合为六阶段，系统综述底层理论与机制，指出前沿挑战，为其向严谨科学转型提供路线图。
2026年最火的AI机遇，为什么是「OPC」？
2025年末北京颁发首个OPC服务计划，中关村AI北纬社区打造OPC先行示范高地。OPC以一人带AI Agent跑通公司全流程，2026年将因边际成本崩塌、交互范式转移而爆发，文中还拆解5个顶级OPC样本并给出工具栈。