算法论文7

本地AI单瓦特智能量追赶云端，有望分散算力

DeeplearningAI2026-03-06

AI 摘要

斯坦福与Together AI团队研究，在笔记本和服务器上运行多款开源大模型。发现本地系统单瓦特智能量未达云端，但差距缩小，若准确率相近可节能，算力分散化有望推动AI普及。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

清华Jev-LDE：一次编辑暴涨ICL准确率

清华大学自动化系研究者针对大模型上下文学习（ICL）中示例选择成本高、效果不佳的问题，提出Jev-LDE方法，仅对初始检索示例做一次局部编辑，即可大幅提升1-shot准确率，推理成本增量很低。

本文是面向零基础的大语言模型入门长文，无需机器学习背景，只用简单例子讲清大语言模型的核心逻辑，覆盖从原理到产品化的全流程，适合新人系统学习。

本文作者池建强介绍Google新推出的Mac端实验性AI会议助手Foresight，该产品核心AI功能可完全离线运行，基于本地Gemma模型，具备会议转写、笔记增强、个人知识库检索等功能，分析了产品特点与行业影响。

Perplexity核心搜索面向大模型检索，原有存储Amazon DynamoDB在高流量下存在延迟高、成本不可控问题，两名工程师两个月用Rust写出4万行自研CobbleDB，迁移后性能成本均大幅优化，后续计划开源。