「运行成本」共找到 2032 篇相关文章
云计算一哥，给 Agentic AI 工程做“减法”
2025 年亚马逊云科技 re:Invent 大会聚焦 Agent，其首席执行官提出未来各领域将运行数十亿 Agent。该公司欲在 Agentic AI 上重构，推出系列工具，如 Amazon Strands Agents SDK、Amazon Bedrock AgentCore 等，还在模型训练和工程化方面做减法。
全球首个具身智能开放平台来了！让大模型长出“身体”，像人一样自然表达交互
魔珐科技发布全球首个具身智能3D数字人开放平台魔珐星云，能让大模型‘长出身体’，实现自然表达交互。该平台突破了‘高质量、低延迟、高并发/低成本’的不可能三角，还可驱动虚拟和真实具身。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
万物皆可AI的时代？Arm发布全球首个Armv9边缘AI计算平台
Arm发布全球首个Armv9边缘AI计算平台，核心是Cortex - A320 CPU和Ethos - U85 NPU，能让小设备本地运行超10亿参数AI模型。边缘AI市场增长快，Arm转型切入，平台软硬结合优势明显，还有豪华朋友圈支持。
时隔六年，OpenAI 为什么再次开源？
OpenAI发布两款开源纯文本推理模型，时隔六年再次开源。其gpt - oss - 120b性能与o4 mini相当，成本降超10倍。此次开源有战略考量，或是为构建生态、吸引企业，也反映出其对自身价值定位更清晰。
一条SQL管理向量全生命周期，让AI应用开发更简单
在大模型驱动的AI浪潮中，向量在AI应用开发中至关重要，但开发者面临技术栈分裂等隐形成本。PolarDB IMCI提出解决方案，在数据库内核集成向量索引与Embedding能力，用一条SQL管理向量全生命周期，降低开发和维护门槛。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
AI Infra进入自进化时代！清华团队用「AI优化AI」造就国产万亿Token工厂
AI自主优化RSI成新焦点，被视为通往AGI的关键路径。硅谷为此沸腾，中国也不落后。清昴智能由清华团队创立，率先打造自进化算力底座，还基于国产算力打造万亿Token工厂，目标是让优化成为持续运行的基础能力。
蚂蚁百灵新一代Ling-3.0开源，智效比13.2，124B释放1T能力
蚂蚁百灵新一代模型Ling-3.0开源，有flash和tiny两版本。Ling-3.0-flash参数量124B，智效比13.2，输出快成本低；Ling-3.0-tiny参数量7.9B，激活少且适用多场景，二者都极致挖掘模型效率。
腾讯Omega：下一代“AI BI”的答案？
本文介绍腾讯 Omega，它是为解决传统 BI 和 ChatBI 问题而设计的数据分析产品。Omega 能理解业务问题，生成完整 Dashboard，确保数据流动、安全和稳定，还支持人机协作，提供审美基础设施，性价比高，有完善运行时和监控推送等功能。