分布式Attention组件」共找到 300 篇相关文章

新闻资讯8

摩尔线程的野心,不藏了

上市15天后,摩尔线程在首届聚焦全功能GPU的开发者大会上,围绕MUSA推出诸多新品,包括新GPU架构、芯片、智算集群和硬件产品,还将开源核心组件,构建生态,其架构创新定义未来AI产业格局。

量子位
算法论文8

刷新3D生成上限!一键生成精细到毛发的3D资产

在高质量3D生成需求增长背景下,现有3D生成框架在兼顾效率和质量上有瓶颈。南洋理工大学等提出Ultra3D框架,采用coarse - to - fine两阶段流程,用Part Attention机制提升效率,支持高分辨率输出。

量子位
产品应用8

Manus高溢价收购背后,是Agent开发落地困境

近期Meta 20亿美元收购Manus引发关注,暴露Agent开发落地难题。阿里云百炼升级“1+2+N”体系,“N”组件解决数据、安全等问题,“2”提供新开发范式,“1”深挖模型服务工程,还发布企业版助力落地。

InfoQ
开源动态8

长上下文快2.9倍,解码快6倍:Kimi 用线性注意力实现性能与效率双突破

月之暗面团队的Kimi Linear模型,是混合线性注意力架构,核心是Kimi Delta Attention模块。它解决线性注意力的记忆及遗忘问题,在多任务测试表现出色,还开源相关资源,推动高效长上下文模型研究。

AIGC开放社区
推荐文章8

Loop Engineering 实战:实现从日志扫描到预发部署的全自主闭环

文章分享 Loop Engineering 实战经验,指出传统维护循环存在看不见、记不住、没闭环问题。介绍了从 Prompt 到 Loop 的四代 AI 工程化范式,阐述 Loop 原理、组件及落地实践,还提及范式迁移和踩坑教训。

阿里云开发者
推荐文章8

大佬深度解析:Coding Agent的底层运行逻辑是什么?

本文由AI领域知名学者Sebastian Raschka撰写,探讨编码智能体及其编排的设计、工作原理和组件协同。指出智能体周边支撑系统重要性不亚于模型本身,详细阐述编码智能体六大核心构建模块。

机器之心
产品应用7

Pulsar特性在AI场景中的使用

随着AI发展,架构从单体到分布式演进,消息中间件成关键。Pulsar以存算分离等特性价值凸显,在多模态训练、模型训练、智能体等AI场景有独特优势,如处理超大消息、实现断点续训等。

InfoQ
推荐文章7

万字长文图解Qwen2.5-VL实现细节

文章作者今年年初写好,为防盗版一直内部分享,时隔半年因Qwen2.5-VL已渗入MLLM开发各场景而公开。从源码抽图例助理解,涵盖window attention等内容,排版全文见指定链接。

GiantPandaLLM
新闻资讯7

5个月估值120亿!OpenAI前CTO自曝首个多模态AI,竟要免费开源

OpenAI前CTO Mira Murati创立的Thinking Machines Lab获20亿美元融资,估值达120亿美元。未来几个月将发布首个多模态AI产品,还会开源部分组件,团队全力构建多模态AI以增强人类能力。

新智元
产品应用7

DASF:可落地,易执行的AI安全框架

随着AI广泛应用,安全担忧增加,需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差,此次介绍Databricks的DASF框架,具体易落地,介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。

AI与安全