「混合部署」共找到 897 篇相关文章
一篇Self-Evolving Coding Agents最新综述
当今编码智能体部署后大多静止，自进化编码智能体应运而生，可让Agent通过交互更新自身。文章介绍了其概念、分类，探讨组件进化机制、时机及评估方法，也提及带来的新挑战。
“小龙虾”太多了，CPU告急
当地时间4月9日，谷歌与英特尔宣布扩大多年期合作，部署至强处理器并联合研发IPU。当前AI基础设施瓶颈从GPU向CPU迁移，CPU需求激增但供应紧张，引发产业链连锁反应，其价值重估受多因素影响。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
Google 推出了免费 Vibe Coding 工具，一键集成聊天、视频、图像AI，真的很氛围。
谷歌推出免费 Vibe Coding 工具，集成多种 AI 功能。谷歌 AI Studio 的 Built 模式更新，能混合匹配 AI 功能，自动连接模型和 API。用户无需了解 API 文档，可快速做出 MVP，谷歌 AI API 免费（限速）。
SGLang Model Gateway 0.2 发布：企业级一体化AI原生编排
市面上一体化AI原生编排方案稀缺，Oracle和SGLang团队推出SGLang Model Gateway 0.2。它从SGL - Router重构而来，核心能力升级，架构分三层，部署灵活，还支持Kubernetes集成和向后兼容。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
华为+DeepSeek，推理性能创新高！技术报告也公布出来了
华为昇腾在部署超大规模MoE时推理性能创新高，全面超越英伟达Hopper架构。其采用‘以数学补物理’方式，还将全面开源。团队从多方面优化，在不同硬件上取得优异性能，本周还将举办技术披露周。
ICML 2025 | 长视频理解新SOTA！蚂蚁&人大开源ViLAMP-7B，单卡可处理3小时视频
在视觉语言模型取得突破的当下，长视频理解挑战凸显。蚂蚁和人大团队提出视觉语言大模型ViLAMP，采用‘混合精度’策略，在多基准测试中超越现有方案，单卡可处理3小时视频，为实际应用带来新可能。
Meta没做的，英伟达做了！全新架构吞吐量狂飙6倍，20万亿Token训练
英伟达发布全新架构9B模型NVIDIA Nemotron Nano 2，以Mamba - Transformer混合架构实现推理吞吐量最高提升6倍，对标Qwen3 - 8B并在多任务中表现持平或更优，还开源模型及大部分预训练数据。
内核级的真相：为什么 eBPF 正在取代基于用户空间的 Agent 成为安全可观测性的首选
文章指出基于用户空间的安全 Agent 存在与威胁同权限层级、CPU 成本高、易被攻击等问题。eBPF 能在 Linux 内核运行受沙箱保护程序，可降成本、增可见性。上线应分阶段，还介绍工具及部署安全措施。