「端到端加速」共找到 2803 篇相关文章
汇丰科技25年丨植根中国,服务全球,加速金融创新和数字化进程
汇丰科技中国从 16 人团队成长为全球科技中心,率先用区块链、AI 等技术为全球跨境交易提速。25 年来扎根中国,在技术、人才等方面成果显著,未来将持续提升创新与服务能力。
[Triton编程][基础] Triton Fused Softmax Kernel详解: 从Python源码到PTX分析
文章详细介绍Triton Fused Softmax Kernel实现,从Naive Softmax到Triton实现,分析访存量、row索引计算、num_stages作用等,还修复官方年久失修代码,性能测试带宽吞吐提升约4倍。
大模型推理加速全链路:内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。
从日志学习到风洞验证:构建 GPU 集群的 AI Native 稳定性闭环
文章介绍了面向新引入GPU芯片稳定性验证的AI Native治理体系“算力风洞”。其通过厂商环境自动复刻等手段,将新芯片适配效率提升10倍以上。体系分认知、验证、进化三层,形成完整闭环,推动智算集群稳定性建设升级。
穿越周期的早期投资:从赛道思维到认知红利|甲子引力
2025 年 12 月 3 日,「甲子光年」举办年终盛典,科技产业投资专场圆桌对话探讨早期投资从“赛道思维”到“认知红利”转变。英诺王晟主持,红杉张涵等嘉宾参与,指出决胜点在对人、周期和非共识的理解。
史上最惨一代?AI延长人类寿命,下一代活到200岁不是梦!
内容创业者Matt Wolfe长期关注AI,他与工程师交流,揭示AI发展现状。巨头各有策略,能源或成瓶颈。AI或带来智能爆炸与生命延长,也可能有‘黑箱语言’风险,还探讨了寿命、机器人等影响。
从上下文工程到 AI Memory,本质上都是在「拟合」人类的认知方式
文章结合胡塞尔现象学,探讨从上下文工程到AI Memory,指出它们本质在‘拟合’人类认知。介绍二者概念及构建方法,对比人类与AI记忆异同,还通过与胡塞尔对话,思考AI意识等哲学问题。
我在微信免费养「龙虾」,玩到上瘾,这组CP太强了
2026 开年「龙虾热」渗透各类任务场景,腾讯动作密集。其自研 WorkBuddy 优势明显,与微信 ClawBot 联动成「官配」。经测试,它能高效处理多类任务,还为用户提供权益,腾讯龙虾矩阵加速成形。
从 MCP 到 Agent:构建可扩展的 AI 开发生态的工程实践
本文整理自字节跳动 Trae 架构师陈仲寅在 AICon 2025 上海的分享。探讨通过 MCP 及 Agent 构建可扩展生态体系,涵盖自定义 Agent 设计、与工具集成及共建等内容,还展望技术演进方向与 AICon 深圳站信息。
英伟达发布 Jet-Nemotron 系列小模型,理论最大加速比 56 倍
英伟达发布 Jet - Nemotron 系列小模型,在多项基准测试中表现出色,实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案,对既有模型针对性优化,展示了在小模型优化上的可行技术路径。