「NVIDIA H20」共找到 581 篇相关文章
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。
The Batch: 865 | 机器人外科医生的切割与夹闭
约翰·霍普金斯大学等团队开发Hierarchical Surgical Robot Transformer（SRT - H），结合两个transformer模型，通过模仿学习训练，用达芬奇机器人完成胆囊切除关键步骤。虽在体外组织测试表现好，但应对人体手术仍有挑战。
OpenAI重新开源！深夜连发两个推理模型，o4-mini水平，笔记本、手机可跑
OpenAI 自 GPT - 2 后重新开源，此次连发两个推理模型 gpt - oss - 120b 和 gpt - oss - 20b。它们性能达 o4 - mini 水平，可在笔记本、手机运行，有宽松许可等亮点，在多测试中表现出色。
黄仁勋：每天都在用AI，提示工程可以提高认知水平
黄仁勋在CNN访谈称每天用AI，认为提示工程是高级认知技能，AI会重塑工作非消灭岗位，还提及中国市场重要性，宣布H20获批入华、将发新显卡RTX Pro，不过其他专家看法不一。
焦虑的贝索斯，决定先裁30000人
亚马逊启动史上最大裁员，先裁14000人，明年或再裁。表面因疫情后人员冗余，实则源于AI军备竞赛压力，AWS优势缩小。公司还计划用机器人替代超50万员工，中层和初级岗位受冲击大，H - 1B员工处境艰难。
老黄自曝刚报废50亿美元显卡！亲自审查4.2万名员工薪酬，100%都加薪
黄仁勋在采访中透露报废50亿美元显卡，坚持先下单先得分配H100芯片。他亲自审查员工薪酬，称100%会加薪。认为AI是伟大“技术均衡器”，天价AI合同合理，还谈及芯片保值、中美AI竞赛等话题。
野生DeepSeek火了，速度碾压官方版，权重开源
近日，德国AI咨询公司TNG推出的「DeepSeek R1T2」模型火了，速度比R1快20%，性能不弱于R1。它采用AoE技术，融合官方三大模型，开源且在Hugging Face开放权重，获不少人期待。
编程新王Composer 2.5来了，逼近Opus 4.7！成本仅为1/10
Cursor推出全新AI编程模型Composer 2.5，在部分编程基准测试上接近Claude 4.7 Opus和GPT - 5.5，运行效率最高提升10倍，成本仅为竞品一小部分。其采用定向文本反馈RL等机制，还与SpaceXAI合作冲击百万H100集群算力。
让AI打游戏！能玩1000多款游戏，英伟达用4万小时视频训练出通用基础模型NitroGen
NVIDIA发布NitroGen模型，利用40000小时带按键显示的游戏视频，构建视觉-动作数据集，训练出能玩超1000款游戏的通用基础模型，在跨游戏泛化和微调任务中表现卓越，为具身智能发展提供新思路。
构建分层的 Agentic RAG 系统：具备自主纠错的多模态推理
企业 AI 团队面临 RAG 系统在处理结构化与非结构化数据时的难题。本文探讨用分层多智能体编排解决“模态鸿沟”，介绍 Protocol - H 架构，阐述组件、机制、实现与集成，经基准测试验证其优势，还提及未来研究方向。