「计算规模」共找到 1093 篇相关文章
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
领先于Transformer！新架构首个1200万上下文模型SubQ，成本仅Opus的5%
Subquadratic公司提出SubQ模型，核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配，让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型，成本低、速度快，有望革新大模型扩展路径。
2026，我们倾尽所有，想为大家办一场万人AI大会丨AIFUT。
作者计划在2026年4月8 - 9日于北京亦庄举办AIFUT大会，曾因规模大而顾虑，经罗振宇鼓励、政府支持后推进。嘉宾阵容强大，主论坛门票收费，展区免费，会全程直播，活动选在工作日是为不占大家周末。
人工智能研究者如何意外发现：我们对“学习”的理解，可能全是错的
传统理论认为大模型会过拟合，而如今大模型却驱动了诸多应用。2019年研究者突破传统扩大模型规模，出现‘双下降’现象。‘彩票假说’解释其成功原因，还重新定义了‘智能’，揭示科学进步规律。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
全新预训练数据筛选方案，让数据效率提升10倍！配置仅需fastText评分器｜港科大vivo出品
香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect，已被ICML 2025接收。它只需训练部署基于fastText的评分器，减少10倍计算需求，在多数据集实验中效果显著优于其他方法。
震撼，马斯克联手老黄扔出星际大脑！AI算力中心射上天
SpaceX财报公布，携手英伟达推出轨道AI计算网络Starmind，将AI算力底座搬至太空，解决耗电与散热问题，还介绍了其卫星、优势及马斯克建造太空AI大脑的计划和野心。
从 SQL 到自然语言，下一代 Lakehouse 为何必须「AI 优先」
随着大模型技术爆发，数据分析范式重构，未来数据多模态、分析复杂、查询方式转变。文章指出构建下一代 AI-First Lakehouse，要在存储计算、内核能力、架构适配、平台自治等方面升级，打破数据壁垒。
OpenAI自研芯片内幕曝光！18个月前开始用AI优化芯片设计，比人类工程师更快
OpenAI与博通官宣合作，将共同部署10GW规模AI加速器。双方头头齐聚爆料合作契机与细节，OpenAI总裁称已用AI优化芯片设计，比人类工程师更快，且合作已持续约18个月。
让YOLO飞起来：从CPU到GPU的配置指南
文章指出默认安装的YOLO用CPU计算，处理大量图像或实时检测任务效率低。详细介绍将YOLO从CPU模式切换到GPU模式的步骤，对比性能，还给出常见问题解决办法，能显著提升运行效率。