搜索：线性注意力架构

「线性注意力架构」共找到 2035 篇相关文章

开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

谷歌DeepMind论文描绘由AI Agent自主交易和协作的经济体，提出“沙盒经济”框架，分析其起源与隔离程度，指出发展方向及挑战，还给出应用场景、市场机制、设计方案、基础设施层和行动建议。

谷歌开源Gemma 3 270M，几分钟就能完成微调，性能超Qwen 2.5同级模型。此模型小巧高效，可本地运行，还能用它构建OCR应用。它有多项亮点，适合多场景，上手简单。

中国科学院计算技术研究所团队提出无需微调的通用图像定制方法 MCA - Ctrl，利用扩散模型内部知识，结合条件语义与主体内容。实验显示其在编辑和生成任务表现优，解决了现有技术瓶颈。

9月2日消息，OpenAI将推出的旗舰模型Astra采用“循环深度”新技术，用较小模型实现庞大模型性能，降低成本。但该技术会让AI推理过程不可读，加重安全担忧，此前奥特曼已因Astra“能力过强”踩刹车。

腾讯混元大模型团队发布并开源轻量级视频生成模型HunyuanVideo 1.5，参数8.3B，支持5 - 10秒高清视频生成。它通过多层次技术创新，在生成效果、性能与尺寸上实现平衡，还具备多种核心能力。

腾讯推出专业级AI工作台混元3D Studio，可覆盖3D资产生产全流程，让生产周期大幅缩短。它有组件拆分、可控图像生成等七大核心技术模块，各模块对应关键阶段，实现无缝衔接与自动化。

本文介绍支付宝AI出行助手研发历程，其集成多种出行功能，基于xUI + KMP框架搭建。分享研发实践、挑战与策略，如迁移基础能力、卡片生态，适配标准框架，还提及KMP应用及数据度量体系，取得业务和研发效能成果。

Andrej Karpathy发文对Google的Veo 3视频生成模型发表见解，指出视频生成技术进步带来四个关键转变，认为视频将成AI与人类交流绝佳界面，也引发众人对其利弊的讨论。

该 TACL 综述首次从数据视角审视长上下文语言模型，指出长上下文能力本质是数据驱动。它建立分类体系，明确高质量长文数据条件，给出核心能力的数据配方与评估法，还整理数据集和基准，提出待解问题。