「通用GPU」共找到 1151 篇相关文章
LLM加速利器LMCache,极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。
刚刚,OpenAI通用智能体ChatGPT Agent正式登场
北京时间周五凌晨,OpenAI发布全新ChatGPT Agent,实现通用智能体能力关键升级。它能自动用多种工具规划,完成复杂任务,已向部分订阅用户开放。其整合多能力,配备工具,基准测试表现佳,但也有安全风险。
刚刚,马斯克官宣xAI解散,22万张GPU算力租给Anthropic
马斯克官宣 xAI 解散,将整合进 SpaceX 新子部门 SpaceXAI。同时,SpaceX 与 Anthropic 达成协议,超 22 万张英伟达 GPU 算力用于提升 Claude 代码生成,双方合作利好彼此。
英伟达发布统一GPU开发平台DGX Cloud Lepton
英伟达发布专为开发者设计的AI平台DGX Cloud Lepton,可汇聚全球GPU计算资源,提供即时访问和无缝部署能力。它功能强大,支持多环境部署,提供统一体验,还有庞大合作网络。
LeCun的世界模型单GPU就能跑了
LeCun世界模型有新进展,开源极简训练方案LeWorldModel,单GPU就能跑,基于JEPA架构,速度快、参数小、控制强且懂物理,完胜此前JEPA方法,训练更简单。
GPU-MODE Leaderboards之nvfp4_gemv代码阅读
文章围绕GPU-MODE的nvfp4_gemv竞赛rank1代码展开,先介绍问题及官方baseline,后详细解读rank1代码,含数据加载、线程模型等,还剖析核心计算函数,最后总结代码在缓存控制、数据格式等方面的调优亮点。
NVIDIA 推出Rubin CPX,专为AI推理设计的GPU
NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU,性能提升显著,集成视频编解码器和长文本推理处理。新平台算力强,适用于代码生成与视频处理,多家公司将采用,2026年底上市。
刚刚,智谱推出全球首个手机通用Agent,人人可用
智谱发布新版AutoGLM,是全球首个手机通用Agent。它为用户配备云端手机,能在不影响用户操作的前提下完成各类任务,还在技术上有重大突破,成本更低,代表全新互联网流量。
字节跳动李航博士新作:AI智能体的通用框架
字节跳动李航博士在JCST发表观点论文,提出涵盖软件和硬件智能体的通用框架。该框架以完成任务为目标,依赖LLM,用强化学习构建。文章还探讨了与大脑机制关联、未来研究方向等。
255亿估值,国产GPU第一股要来了?
6月18日,摩尔线程IPO辅导状态变更为“辅导验收”。它成立于2020年,累计融资超45亿,估值255亿。若上市成国产GPU第一股,或受二级市场追捧。当下国产芯片替代空间广,相关企业有望增长。