「百万Token计算」共找到 1374 篇相关文章
「寒武纪们」被低估了吗?
英伟达市值达5万亿,成AI世界“中枢神经”。在其因禁令退出中国市场后,寒武纪等本土AI芯片厂商迎来机遇。但构建软件生态是关键,其估值已脱离传统计算,成为对产业未来的“信念题”。
节前重磅:开源旗舰模型新SOTA,智谱GLM-4.6问世
国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源,它在多方面提升,如编码、上下文长度等,评测性能佳,token消耗降低。经实测,其代码、研究、开发等能力强,成全球开源AI领域重要力量。
万字长文!大模型(LLM)推理优化技术总结(非常详细)
文章聚焦大模型推理优化技术,介绍推理过程分预填充与解码阶段,还阐述模型并行、注意力机制优化、模型优化及服务技术等,如多查询注意力减少内存,FlashAttention 优化计算顺序。
Google一口气发了多少东西?I/O 2026完整梳理
Google I/O 2026发布会成果丰硕。token处理量大幅增长,13款产品月活超10亿。对话式AI融入多产品,基础设施投入增至约1800亿美元。还发布新模型、平台及工具,构建从芯片到应用的Agent体系。
10人团队千万融资,这个原生AI产品要做“人人可用的数据Agent”丨对话ChatExcel
ChatExcel是国内首款原生AI DataAgent,专注自然语言对话处理分析数据。其不到10人团队获近千万融资,定位平民化数据产品,核心是多模型结合,已近百万用户,正拓展海外市场。
长上下文不再难:KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战,现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具,梳理推理优化方法,介绍 MInference 等,还提出 Tri - shape 方法等成果。
直播预告:小众细分赛道也能实现百万级用户?和咔皮记账聊聊初创AI APP如何突围|AI产品Time
量子位智库的AI产品Time是聚焦AI产品的1v1深度访谈节目。6月19日20:00 - 21:00,邀请咔皮记账产品负责人张洋,解析其6个月用户破百万的成功经验,为大家带来启发。
全新预训练数据筛选方案,让数据效率提升10倍!配置仅需fastText评分器|港科大vivo出品
香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect,已被ICML 2025接收。它只需训练部署基于fastText的评分器,减少10倍计算需求,在多数据集实验中效果显著优于其他方法。
首批GPT-6内测结果好离谱啊。。。
GPT - 6使用资格分批开放,内测玩家抢先体验。其在3D生成、游戏开发、网页制作等多领域表现出色,如15分钟做出Mac应用,空间推理达世界级水平,但运行时Token消耗大。
震撼,马斯克联手老黄扔出星际大脑!AI算力中心射上天
SpaceX财报公布,携手英伟达推出轨道AI计算网络Starmind,将AI算力底座搬至太空,解决耗电与散热问题,还介绍了其卫星、优势及马斯克建造太空AI大脑的计划和野心。