「零Token部署」共找到 1623 篇相关文章
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
吴恩达来信：智能体并行运行以提升效率
吴恩达称并行智能体成扩展AI规模新方向。AI性能会随数据量、训练及推理计算量提升，但耗时久。随着LLM每个token价格下降，更多智能体工作流被并行化，且相关研究增多。
全网爆火的DeepSeek「UE8M0 FP8」，原来英伟达早已支持
NVIDIA PTX ISA文档早有.ue8m0数据类型，UE8M0 fp8并非DeepSeek独创。从PTX 8.0/9.0起，NVIDIA在ISA级别支持.ue8m0，H100、RTX 40系列等都有相关支持，DeepSeek是将其提升到模型层面。
90%打工人「自费买AI上班」，开启To P革命！每月花20刀效率翻倍
面对AI淘汰焦虑，大量职场人主动自费买AI工具，开启「自我拯救」运动，催生出To P新赛道。文章分析其发展快的原因，也提及To B和To C赛道后续发展的条件。
清华校友出手，8B硬刚GPT-4o！单一模型无限工具调用，终结多智能体
MIT等机构推出TIM和TIMRUN组合拳，突破模型token天花板。TIM将推理建模为任务树，TIMRUN优化内存管理。二者结合支持长程推理，实现单模型高效推理，简化智能体构建，在多方面表现出色。
先用为快——企业微信 AI 新版深度剧透
本文深度剧透企业微信 AI 新版，其升级对 AI 办公解读和实践领先，场景把握佳。新增智能搜索、智能总结、智能机器人等套件，还有智能表格、邮件等特性，还升级海外版与私有部署版本。
Gemini CLI 新升级：深度集成 VS Code，终于不用在终端和编辑器之间反复横跳了
Google发布Gemini CLI重要更新，实现与VS Code深度集成，从架构层面解决AI编程助手的上下文感知问题。新版本有工作区上下文感知和原生差异对比界面两个核心功能，还给出部署要求。
AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程
文章以“房价预测”为例，介绍算法工程师开发模型全流程，包括需求分析、数据收集、划分数据集等十步。详细讲解各步骤操作，如用均方误差衡量模型效果，还提及多种模型及调优方法，助开发者入门机器学习。
ICCV 2025 | 清华&腾讯混元X发现「视觉头」机制：仅5%注意力头负责多模态视觉理解
本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。
Gödel Rescheduler：适用于云原生系统的全局最优重调度框架
本文介绍字节跳动研发的Gödel Rescheduler重调度框架，它能解决传统调度资源分配和任务摆放问题。阐述传统重调度弊端，介绍新方案组件，列举应用场景及成果，还提及未来规划，目前已开源。