「单卡运行」共找到 600 篇相关文章
第 4 章 Agent 开发实战
本章面向理解大模型、会 Python 但未系统搭建过 Agent 的工程师，采用「概念 → 最小示例 → 可运行项目」结构，介绍 Agent 开发实战，涵盖 LCEL 拼装、工具暴露等内容，还说明了开发环境搭建方法。
TanStack Start 推出导入保护机制，强化服务器与客户端边界划分
TanStack Start引入基于Vite的导入保护功能，防止服务器与客户端代码相互泄露，默认在新项目启用。该功能以插件形式运行，开发和生产环境行为不同，还能添加自定义规则，用户反响积极。
Skill开发黄金法则！谷歌放出5种智能体Skill设计模式
谷歌工程师研究Skill开发生态，浓缩出5条黄金法则与5种设计模式，包括工具封装器、生成器等，每种模式附可运行ADK代码，还能组合使用，助开发者构建更智能的Agent。
几千亿美元远远不够！黄仁勋亲笔长文：AI 是人类历史上最大的基建浪潮
英伟达CEO黄仁勋发布长文，指出AI是关键基础设施，运行依托硬件、能源与经济规律。AI可解构为五层架构，目前投入仅数千亿美元，未来还有数万亿规模待建，正演变成最大基建运动。
The Batch: 919 | 本地 AI 能否替代云端？
大语言模型预测输出需求推动数据中心扩建，研究人员探讨本地小型模型能否分担算力负荷。斯坦福与Together AI团队研究发现，本地系统单瓦特智能量与云端有差距但在缩小，若准确率相近可节省能耗。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
Clawdbot：火爆硅谷，让开发者疯抢Mac mini的AI新物种
Clawdbot是诞生仅三周的开源项目，让AI走出聊天框成数字同事。它由退休程序员Peter Steinberger推出，能24小时运行在本地电脑，解决AI落地难题。许多开发者为此抢购Mac mini。
干掉延迟！12G显存就能实现实时AI换脸直播，开源免费。
推荐开源项目PersonaLive，它是基于自回归流式扩散技术的实时人像动画生成框架。能平衡画质与低延迟，用一张照片在普通显卡实现数字分身实时驱动，有低显存、无限时长等特点。
Cloudflare 用 Rust 重写核心系统：CDN 性能提升 25%，响应时间缩短 10 毫秒
Cloudflare 宣布用 Rust 重写核心子系统，响应时间缩短 10 毫秒、性能提升 25%。基于代理框架 Oxy 构建 FL2，创建中间层让 Rust 模块在旧系统运行，还制定测试发布策略及回退机制。
在云栖大会，一场关于AI Agent的变化正在发生｜甲子光年
企业应用AI正从“调用模型”转向“构建AI Agent”。云栖大会展示了其在多行业的应用，如教育、工业、零售等。不过，企业落地AI Agent面临技术、场景、合规和商业回报等挑战，阿里云提供了构建方案。