搜索：transformer架构

「transformer架构」共找到 1973 篇相关文章

跨芯片统一优化，DLCompiler与DLBlas驱动算子极致表现

9月10日，上海AI实验室DeepLink团队开源DLCompiler和DLBlas。前者是扩展Triton的深度学习编译器，后者是面向大模型的高性能算子库。它们有跨架构DSL扩展等亮点，在多芯片上实现性能优化，还解决了DSA芯片优化难题。

左奎军博士论文聚焦基于机器学习的复杂流场预测，以多种对象构建智能流场预测网络架构，发展耦合求解方法，剖析核心要素影响，提出多个创新模型和策略，还分析了不同模型在流场预测中的表现与问题。

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

随着数智浪潮到来，AI 赋能的机器人革命正揭开产业变革帷幕。MLCC 作为核心被动电子元器件，已渗透至现代机器人架构中六大关键模块。不同类型机器人对 MLCC 性能要求不同，微容科技构建差异化产品矩阵，打破日韩技术垄断。

AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。

论文 'Spatial-Agent' 提出地理空间问答应建模为 'concept transformation'，引入 GeoFlow Graph 中间表示。它从自然语言问题构建图结构，再映射到工具调用。实验显示其对地图任务有帮助，还指出构建地图类 agent 需稳定数据源等。

2024年特斯拉和OpenAI在机器人数据采集上路线不同，前者重资产高精度，后者低成本众包。当前数据采集方式各有优劣，难以兼顾质量与成本。数据堂提出分层采集架构，通过场内工厂化和场外众包化双轮驱动解决难题。

近期SBTI人格测试爆火，它出自B站UP主Q肉儿串儿，初衷是劝朋友戒酒。经分析，它大概率是“人工主导+AI辅助”的产物，技术架构简单，算法逻辑是答题拆维度、分数归档、模板匹配。此外，还有大神网友推出MBAI版测试题。

南加州大学团队开源迈向通用人形机器人的基座模型Ψ₀，仅需80条真机遥操作数据，在总体任务成功率和子任务指标上平均领先NVIDIA最新开源模型GR00T N1.6超40%，还介绍了其数据、训练、架构等方面。

上海交通大学与小红书Hi Lab联合团队提出JTok/JTok - M模块，作为插件挂载在Transformer层，几乎不增算力和显存开销却显著提升性能。该模块构建新scaling路径，在多任务测试中全面提分，为大模型发展提供新方向。