「全注意力残差」共找到 2029 篇相关文章
万亿思考模型新速度！蚂蚁开源Ring-2.5-1T：IMO金牌水平，强；混合线性架构，快！
蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。
Life of a Token：像调试代码一样看懂大模型如何生成 Token
文章类比 Chrome 的 Life of a Pixel，追踪 LLM 里 token 从输入到输出的全程。以 GPT - 2 Small 为例，详细讲解其管线各阶段，如 Tokenization、Embedding 等，还介绍了残差流、KV Cache 等概念及 GPU 性能瓶颈和优化方法。
13小时不眠不休，300个分身狂敲代码！开源第一易主了
4月20日深夜，Kimi K2.6出道即开源，展示了强大的「全栈交付」能力，跑分超GPT - 5.4等。它能完成多类型官网制作，300个Agent协作能力强，还能复刻高盛研报、交付三件套，其Claw群组开启小范围测试。
Listen Labs：把用户研究“黑灯流水线”化，AI Agent 系统实现小时级洞察
Listen Labs由两位哈佛校友在2024年底创立，2025年4月获2700万美元融资。今年2 - 5月发布三项核心能力，可实现全流程自动化深访。文章详解其如何实现小时级交付，分析竞争态势与优势，也指出未来待改进处。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。
英伟达再出手！新型混合架构模型问世，两大创新实现53.6倍吞吐提速
英伟达研究者提出新混合架构语言模型 Jet - Nemotron，在达 SOTA 全注意力模型精度时效率卓越，2B 版性能超 Qwen3 等，H100 GPU 上生成吞吐量最高加速 53.6 倍，基于 PostNAS 和 JetBlock 两大创新。
杭州闯出40亿AI医疗IPO！阿里CEO多轮投资
杭州AI陪诊公司微脉准备赴港IPO，其创始人裘加林经验丰富。微脉依托自研CareAI平台，以与公立医院合作为核心开展全病程管理服务，业务增长可观，虽仍亏损但在收窄，此次募资用于AI能力提升和业务扩张。
a16z 发布百大【生成式AI】消费级应用排行榜第五版
a16z发布第五版百大生成式AI消费级应用榜单，揭示普通人使用AI习惯的演变，生态趋于稳定。谷歌多款产品上榜，Grok与Meta加入战局，中国本土赢家崛起，“凭感觉编程”催生真实用户，还公布“全明星”阵容。
甲小姐对话彭志辉：既然选择做公众人物，就必须接受被期待的代价 | 甲子光年
甲子光年的甲小姐对话智元机器人联合创始人彭志辉，他称公司是具身行业估值“撑伞人”，采用全栈自研战略。双方还探讨融资、战略、市场、技术、商业、组织等话题，他分享公司发展现状、前景及应对策略。
CVPR 2026 ReSAM：每个目标只标1个点，SAM就能学会分割遥感图像
CVPR 2026收录论文《ReSAM: Refine, Requery, and Reinforce: Self-Prompting Point-Supervised Segmentation for Remote Sensing Images》，提出让SAM每个目标只标1个点，通过R³循环自己生成高质量伪标签训练。在WHU建筑数据集上，1点标注与全监督差距仅1.3%，省99%标注成本。