「高带宽域架构」共找到 3509 篇相关文章
一文读懂 Deep Research:竞争核心、技术难题与演进方向
文章梳理了深度研究系统,包括其发展历程、现有系统差异、技术实现挑战、评估体系及推理架构演进方向。指出竞争焦点转向综合比拼,评估走向专业化,未来系统将在多方面突破。
[Triton编程][基础] Triton Fused Softmax Kernel详解: 从Python源码到PTX分析
文章详细介绍Triton Fused Softmax Kernel实现,从Naive Softmax到Triton实现,分析访存量、row索引计算、num_stages作用等,还修复官方年久失修代码,性能测试带宽吞吐提升约4倍。
Harness Engineering 实践:Fitness Function 如何成为 AI 交付的防腐层
文章探讨 Harness Engineering 实践中,Fitness Function 如何成为 AI 交付防腐层。指出在 AI Agent 参与开发时,判断任务完成是难题,介绍 Routa 项目构建 Fitness 架构及规则执行等实践。
Sand.ai重磅更新MagiAttention,正在定义分布式Attention性能新标杆
2025年4月,Sand.ai开源MagiAttention v1.0.0。如今发布v1.1.0,适配Blackwell新架构,构建原生Group Collective原语,经系统级协同优化,在多模型训练中得到实证,展现卓越性能。
AI的七窍打通了!谷歌发布Gemini Embedding 2原生多模态嵌入模型
谷歌发布Gemini Embedding 2新型基础架构,将文字、图像等数据整合到统一维度,终结旧工作流。该系统赋予机器五维感知,建立跨媒介沟通语言,提升运行效率,在多场景有应用潜力。
神秘模型「Pony Alpha」火了,被曝是GLM-5
OpenRouter上线神秘模型“Pony Alpha”,引发网友竞猜。该模型主打编码等,有高工具调用准确率。网友实测其前端能力惊艳。多项证据指向它可能是GLM - 5,春节档多家国产大模型将轮番上阵。
自主金融研究智能体
Dexter是自主金融研究智能体,会思考、计划和学习。它能将复杂金融问题转化为研究计划,利用实时数据执行任务、自我验证。介绍了其核心能力、安装使用方法、架构、项目结构、配置等。
16岁天才少年炒掉马斯克,空降华尔街巨头!9岁上大学,14岁进SpaceX
16岁天才少年Kairan Quazi从英特尔实验室、圣克拉拉大学到SpaceX,如今炒掉马斯克,加入金融巨头Citadel Securities。他爱折腾,追求高挑战,看重公司文化与包容,其家庭环境也影响职业选择。
Cloudflare 如何将 Quicksilver 迁移到多级缓存并处理数十亿个请求
Cloudflare 工程团队分享将全局键值存储 Quicksilver 过渡到分层缓存架构的故事。从 V1 到 V2 迁移,采用多级缓存策略,解决存储、一致性等问题,提升性能,多数请求可在短时间内响应。
扩散语言模型九倍推理加速!上海交大:KV Cache并非自回归模型的专属技巧
上海交通大学EPIC Lab团队提出免训练推理缓存机制dLLM - Cache,复用特征降低计算量。它即插即用,通用于主流dLLM架构,在多个基准测试中实现数倍推理加速,且不降低生成质量。