计算不可约性」共找到 1078 篇相关文章

推荐文章8

万字长文!大模型(LLM)推理优化技术总结(非常详细)

文章聚焦大模型推理优化技术,介绍推理过程分预填充与解码阶段,还阐述模型并行、注意力机制优化、模型优化及服务技术等,如多查询注意力减少内存,FlashAttention 优化计算顺序。

AINLPer
新闻资讯8

领先于Transformer!新架构首个1200万上下文模型SubQ,成本仅Opus的5%

Subquadratic公司提出SubQ模型,核心是SSA亚二次稀疏注意力机制。该机制改变注意力计算分配,让模型真正读长文档。SubQ是首个有1200万token上下文窗口的前沿模型,成本低、速度快,有望革新大模型扩展路径。

机器之心
开源动态8

Karpathy「疯狂之作」:100美元、4小时,就能训练你自己的「小型GPT」

AI传奇人物、前特斯拉AI总监Karpathy推出开源项目「nanochat」,以不到8000行代码复现ChatGPT全流程,只需一台GPU、4小时、成本仅百美元。项目在GitHub上线不到12小时获4.2k星标。

新智元
新闻资讯7

NeurIPS近3万投稿爆仓,强拒400篇论文!博士疯狂内卷,AI顶会噩梦来袭

AI顶会现「爆仓危机」,NeurIPS 2025双会场仍难容纳近3万投稿,400篇已录用论文被拒收。AAAI 2026投稿也破纪录,近7成来自中国。各顶会录用率降、审稿人缺、质量下滑。

新智元
推荐文章8

长上下文不再难:KV Cache 全生命周期优化实战

长上下文大语言模型发展带来计算和内存挑战,现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具,梳理推理优化方法,介绍 MInference 等,还提出 Tri - shape 方法等成果。

AI前线
新闻资讯7

小扎超级智能团队全部名单曝光,50%来自中国

Meta超级智能团队44人名单曝光,50%来自中国,其中8位清华本科,成员还出自北大等高校。75%有博士学位,70%为研究人员,多人来自OpenAI等,年薪或达千万到1亿美元。

AI寒武纪
算法论文8

全新预训练数据筛选方案,让数据效率提升10倍!配置仅需fastText评分器|港科大vivo出品

香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect,已被ICML 2025接收。它只需训练部署基于fastText的评分器,减少10倍计算需求,在多数据集实验中效果显著优于其他方法。

量子位
推荐文章7

AI窗口期只剩3-4年,98%的企业却高估了自身的技术成熟度

麻省理工学院报告显示,企业级AI试点仅5%进入生产环节并产生回报。多数企业高估自身AI成熟度,落地难源于技术与组织发展速度不匹配。企业需系统重构,窗口期只剩3 - 4年。

AI前线
新闻资讯8

震撼,马斯克联手老黄扔出星际大脑!AI算力中心射上天

SpaceX财报公布,携手英伟达推出轨道AI计算网络Starmind,将AI算力底座搬至太空,解决耗电与散热问题,还介绍了其卫星、优势及马斯克建造太空AI大脑的计划和野心。

新智元
推荐文章7

从 SQL 到自然语言,下一代 Lakehouse 为何必须「AI 优先」

随着大模型技术爆发,数据分析范式重构,未来数据多模态、分析复杂、查询方式转变。文章指出构建下一代 AI-First Lakehouse,要在存储计算、内核能力、架构适配、平台自治等方面升级,打破数据壁垒。

InfoQ