「运力即服务」共找到 872 篇相关文章
智谱开启狂飙模式！7倍提速，全球最快，旗舰模型即问即答
5月22日，智谱上线GLM - 5.1高速版API，输出速度达400 tokens/s，刷新全球大模型API速度纪录，比原版提速约7倍。该速度由GLM团队和TileRT团队联合打造，核心优化分三层推进，且是稳定可用的生产级能力。
英伟达放弃GPU上LPU：新推理芯片被曝Groq即买即用，OpenAI第一个吃螃蟹
英伟达将在GTC大会发布新AI推理系统，核心芯片基于Groq的LPU架构，首位大客户是OpenAI。选择外部架构与时间窗口有关，推理场景中LPU更适配。同时，英伟达推理芯片面临诸多威胁。
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
新的基础设施即代码工具“formae”瞄准了 Terraform
平台工程实验室于2025年10月22日推出开源基础设施即代码平台formae，试图解决现有工具的根本性限制。它有两种操作模式，能自动发现和编码现有基础设施，使用PKL语言，还面临成熟工具竞争。
一个人+Claude+云服务，相当于一整个工程团队
网上两个实操演示被疯转，一是Google Cloud工程师用Claude配合Google云部署应用；二是Anthropic Claude团队教搭建带持久记忆的AI智能体。博主整理7天实操计划，将Claude变“全自动AI雇员”，还介绍多种AI雇员类型及成本。
大规模替换数据库序列，保障百余个服务平稳运行
Coupang从关系型数据库迁移到NoSQL时，为解决序列替换问题，自研了专用解决方案。该方案采用双层缓存与滑动窗口预填充机制，以DynamoDB为数据源，让百余个服务无需重写代码完成迁移，性能和成本表现佳。
组织也能fork？Karpathy提出"代码即公司"
Karpathy提出“代码即公司”观点，认为AI驱动的组织可像代码仓库一样被复制、修改、迭代。传统组织因“制度性知识”难以fork，AI能将隐性知识显性化。交易公司或成首个被fork的组织类型，管理协调是核心竞争力。
华南理工开源小智AI硬件后端服务，支持MCP。
华南理工大学刘思源教授团队研发开源后端服务项目 xiaozhi-esp32-server，基于人机共生智能理论，为 xiaozhi-esp32 硬件提供支持，采用多语言实现，支持 MCP 接入等功能，适配多配置方案。
Cloudflare 通过左移安全实践扩展基础设施即代码
Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。
Agent群体智能来了！魔搭开源Agent自进化群体智能框架：群体记忆自动蒸馏与进化，8万+群体技能即取即用，智能体画像一键复用
个人或团队部署使用智能体面临状态易失、重复试错、迁移困难等痛点。魔搭ModelScope团队开源的Ultron框架，补上群体协作基础设施，解决经验沉淀、技能进化和画像共享问题，提升智能体协作效率。