搜索：循环深度Transformer

「循环深度Transformer」共找到 1099 篇相关文章

跨芯片统一优化，DLCompiler与DLBlas驱动算子极致表现

9月10日，上海AI实验室DeepLink团队开源DLCompiler和DLBlas。前者是扩展Triton的深度学习编译器，后者是面向大模型的高性能算子库。它们有跨架构DSL扩展等亮点，在多芯片上实现性能优化，还解决了DSA芯片优化难题。

作者复盘AI社交产品“抱抱窝”创业失败经历，涉及方向选择、团队搭建、时间资金把控、团队沟通等问题，还给出经验建议，如选方向要有标准，团队开发股份占比应合理，明确时间表等。

现代大模型在复杂推理时爱用自我反思词，触发冗余验证循环，拖慢速度、增加算力消耗。NoWait方法零训练成本，通过抓关键词、扩展变体、实时屏蔽，让模型跳过废话，在多任务中表现出色，且颠覆对推理的认知。

OpenAI昨夜官宣上线最强推理模型o3 - pro，还将o3价格暴降80%。o3 - pro专为深度思考和提供超可靠答案而生，在多项测试中表现优异，虽有速度慢等限制，但优势明显，网友实测效果惊艳。

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

Youware可快速将AI生成网页部署到线上。其更新后支持调用MCP生成网页，深度适配主流MCP服务，使用门槛低且免费。还上线积分系统，首页分类筛选更详细，作品页增随机按钮。用案例展示了其强大的网页生成能力。

Meta推出智能体平台Hatch，功能类似Manus，开发阶段用Claude，计划正式上线时切换到自研模型Muse Spark，10月推出新模型Watermelon。Hatch注重消费数字生活，与Meta社交生态深度绑定，高端订阅有默认分发优势，但面临真实环境考验。

AICon大会前，与蚂蚁集团吴伟深度对话，探讨GPU资源调度解法。他指出CPU和GPU有结构性差异，只在推理或训练内优化有资源闲置，国产卡缺全链路生态，软件优化有天花板。还分享架构思路、算法及落地效果等。

作者获微信小微内测资格，深度体验后认为这是微信最大更新。微信Agent打通原生能力有超预期之处，但智能程度不足。功能上有亮点也有限制，如通讯录操作谨慎、小程序适配佳，还能生成小工具。

论文 'Spatial-Agent' 提出地理空间问答应建模为 'concept transformation'，引入 GeoFlow Graph 中间表示。它从自然语言问题构建图结构，再映射到工具调用。实验显示其对地图任务有帮助，还指出构建地图类 agent 需稳定数据源等。