「离线运行」共找到 624 篇相关文章
Google悄悄下了一盘大棋：一天三个端侧AI项目同时爆发
Google 一天内三个端侧 AI 项目爆发，包括离线听写 App Eloquent、端侧 AI 示例集 AI Edge Gallery 和端侧大模型推理运行时 LiteRT-LM。云端大模型竞争趋同，端侧 AI 是差异化战场，Google 全栈布局有优势。
The Batch: 948 | GLM 5.1：面向长时任务的能力提升
Z.ai将旗舰开源权重大语言模型升级为GLM - 5.1，可在单个任务自主运行八小时。它专为编程和智能体任务设计，有推理等特性，在多榜单表现佳，但推理和数学能力落后闭源模型，价格有提升。
微软刚发布Mu模型：支持Windows智能体，小参数跑出10倍性能
今天凌晨微软发布创新小参数模型Mu，3.3亿参数性能比肩Phi - 3.5 - mini，体量小10倍，离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体，架构有多项创新，经训练优化后智能体表现出色。
Harness Engineering: C 端 AIGC 内容生产自优化实践
文章介绍蚂蚁保保险快查深度解读页面生成系统（DIPG），它将Harness思想用于C端AIGC生产链路。DIPG采用‘离线生成+校验+刷入DB’模式，解决LLM实时生成时延和质量问题，还阐述多Agent协作、校验机制及回灌流程等。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日，腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行，适用于低功耗场景。模型具备推理快、性价比高特点，亮点是Agent和长文能力，已在腾讯多业务应用。
量子计算摆脱GPU！IBM一句话AMD市值暴涨2000亿元：用FPGA芯片即可
IBM宣布在量子计算商业化取得重大进展，能在AMD芯片实时运行量子纠错算法，速度比需求快10倍，无需GPU，用FPGA芯片与量子计算机配合即可，这一突破让AMD和IBM市值均大幅上涨。
算力稀缺时代，如何把 GPU 用“满”
在 GPU 稀缺且利用率低的背景下，本文分析其‘用不好’的原因，探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例，解析内核态虚拟化及在离线混部技术，还介绍其在多行业降本增效的实践。
人手一个数据库，Kimi背后这套AI基建到底有多能扛？
Kimi K2.6的Agent模式可帮用户搭建全套齐备的网站，但工程算力挑战大。传统数据库难以承接其需求，Kimi后端选TiDB Cloud，做了三个关键决策。这不是孤立事件，反映行业趋势，TiDB还为Agent补齐运行时基础设施。
【博客转载】NVIDIA Docker CUDA Compatibility /Nsight Compute In Docker
本文围绕NVIDIA Docker CUDA兼容性及Nsight Compute展开。指出使用NVIDIA NGC CUDA Docker容器时，要保证宿主机CUDA驱动与容器内运行时库版本一致，否则会有问题。还介绍了在Docker中安装和使用Nsight Compute的方法及示例。
奥特曼深夜官宣：OpenAI重回开源！两大推理模型追平o4-mini，号称世界最强
OpenAI深夜推出gpt-oss 20B和120B两款开源模型，性能比肩o3-mini和o4-mini，能在消费级显卡甚至手机运行。有宽松许可证等亮点，还准备了体验网站。这是自GPT - 2后首次开源，降低了部分群体准入门槛。