「高带宽域架构」共找到 3557 篇相关文章
美团提出全新多模态统一大模型STAR，GenEval突破0.91，破解“理解-生成”零和困局
近日美团推出多模态统一大模型 STAR，以“堆叠自回归架构 + 任务递进训练”实现理解与生成双重突破。它解决行业痛点，通过三大核心设计统一能力，实验在多任务中表现顶尖，还给出后续探索方向。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。
硅谷刷屏的ClawdBot，让Mac mini卖爆了！创始人爆料：一人开发、100% AI 写代码，全开源却留 0.00001% 给全网来 hack
个人 AI 助手 ClawdBot 席卷硅谷，网友评价高，项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码，协作方式激进，创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患，还带火了 Mac Mini。
Token洪流的转向：当AI Agent成为Token消耗的主宰，什么样的推理服务基础设施才是刚需
Token消耗量转移，AI Agent成Token消耗主宰，大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求，还阐述了为其打造的AI Serving Stack架构及优势，它获2025年度相关卓越奖。
马斯克罕见低头：开源𝕏推荐算法，自嘲“很烂”不过未来月更
马斯克开源𝕏推荐算法系统，这是几乎全由AI模型驱动的系统。它基于Grok - 1同款Transformer架构，通过学习用户历史互动行为推荐内容。虽获社区称赞，但算法有缺陷，马斯克也承认‘很烂’，未来将月更。
火爆全网的Skills，终于有了最简单的打开方式。
扣子更新到2.0版本，上线Skills和长期计划功能。Skills很火但现有支持产品对普通人门槛高，扣子降低了其使用和创建门槛，还提供两种创建方式；长期计划能帮用户定目标做规划，但有一些不足。
微软全球AI采用报告：每6个人就有1个用AI，但差距正在失控
微软AI经济研究所报告显示，2025下半年全球AI普及率创新高，每6人就有1人用AI，但全球南北数字鸿沟加剧。富裕国家借基建优势巩固领先，韩国靠政策、技术、文化实现跃升，开源模型DeepSeek在新兴市场崛起。
TPU vs GPU 全面技术对比：谁拥有 AI 算力最优解？
SemiAnalysis对Google TPU v7/v8深度拆解，将TPU与Nvidia GPU多方面对比拆到可计算层面。不过其结论有局限性，本文重新分析，指出TCO因场景而异，互联体系分歧在流量假设，Google TPU v8成本优势被削弱。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
数据合成篇｜多轮ToolUse数据合成打造更可靠的AI导购助手
文章以租赁导购助理“小不懂”为例，介绍Tool Use训练数据合成方案。先分析训练数据的目标与难点，提出动态多智能体对话生成框架，阐述多轮数据、复杂问题合成及过滤方案，展示数据和模型效果，还提及未来工作方向。