「实时运行」共找到 893 篇相关文章
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
第 4 章 Agent 开发实战
本章面向理解大模型、会 Python 但未系统搭建过 Agent 的工程师，采用「概念 → 最小示例 → 可运行项目」结构，介绍 Agent 开发实战，涵盖 LCEL 拼装、工具暴露等内容，还说明了开发环境搭建方法。
TanStack Start 推出导入保护机制，强化服务器与客户端边界划分
TanStack Start引入基于Vite的导入保护功能，防止服务器与客户端代码相互泄露，默认在新项目启用。该功能以插件形式运行，开发和生产环境行为不同，还能添加自定义规则，用户反响积极。
Skill开发黄金法则！谷歌放出5种智能体Skill设计模式
谷歌工程师研究Skill开发生态，浓缩出5条黄金法则与5种设计模式，包括工具封装器、生成器等，每种模式附可运行ADK代码，还能组合使用，助开发者构建更智能的Agent。
几千亿美元远远不够！黄仁勋亲笔长文：AI 是人类历史上最大的基建浪潮
英伟达CEO黄仁勋发布长文，指出AI是关键基础设施，运行依托硬件、能源与经济规律。AI可解构为五层架构，目前投入仅数千亿美元，未来还有数万亿规模待建，正演变成最大基建运动。
基础模型又一关键拼图，腾讯混元发布训练新范式「无相」：引入功能性记忆，打破静态权重枷锁
腾讯混元团队发布HY - WU范式，打破静态权重束缚，引入功能性记忆，实时生成个性化参数。应用于图形编辑基模效果好，在图像编辑任务表现优秀，还对未来AI架构提出多方面展望。
The Batch: 919 | 本地 AI 能否替代云端？
大语言模型预测输出需求推动数据中心扩建，研究人员探讨本地小型模型能否分担算力负荷。斯坦福与Together AI团队研究发现，本地系统单瓦特智能量与云端有差距但在缩小，若准确率相近可节省能耗。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
Clawdbot：火爆硅谷，让开发者疯抢Mac mini的AI新物种
Clawdbot是诞生仅三周的开源项目，让AI走出聊天框成数字同事。它由退休程序员Peter Steinberger推出，能24小时运行在本地电脑，解决AI落地难题。许多开发者为此抢购Mac mini。
阿里重磅开源 0.5B TTS + 0.8B ASR，支持跨语种音色克隆、说唱识别！
2025 年 AI 圈风向变了，开始卷端侧模型。阿里 FunAudioLLM 团队发布 Fun - CosyVoice3 0.5B 和 Fun - ASR - Nano 0.8B，TTS、ASR 双线程开源，是工程级版本，目标是在本地跑顺‘听 + 说’。