「百万Token计算」共找到 1375 篇相关文章
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
伏曦量子完成天使及天使+轮融资，五源资本、启盈同创等跟投
近日，伏曦量子宣布完成天使及天使+轮融资，由全球动力电池行业龙头领投，多家机构跟投。该公司由赵琦博士创立，定位是帮助产业客户理解和使用量子算力，其核心价值是优化算法，让问题可在近期硬件测试。
Nvidia GPU深度解析
文章深度解析Nvidia的B30A（传闻）、HGX H20、H100、B200和B300（Ultra）五款GPU，从架构、性能、内存、封装工艺和应用场景等方面对比差异，助读者选合适GPU。
清华万引教授：万倍加速催化剂设计，AI突破DFT瓶颈！
清华大学王笑楠团队提出催化剂设计新基础模型SurFF，发表于Nature Computational Science。它无需昂贵实验或耗时DFT计算，实现对金属间化合物表面暴露与形貌的高效、高精度预测，计算速度提升10⁵倍。
何恺明首个语言模型：105M参数，不走GPT自回归老路
何恺明团队推出全新连续扩散语言模型ELF，不走GPT自回归老路。它将生成过程留在连续embedding空间，最后离散化变回token。ELF用较少参数、训练token和采样步数，跑赢主流扩散语言模型。
杨植麟当主持人的大模型圆桌：张鹏罗福莉夏立雪都放开说了
中关村论坛上，杨植麟、罗福莉、张鹏、夏立雪、黄超齐聚，共论agent的下一代演进。各位大咖观点硬核，如罗福莉认为中国大模型团队优势在‘算力受限下的最优解能力’，张鹏解释智谱新模型涨价原因等。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。
李飞飞团队新作：DiT不训练直接改架构，模型深度减半，质量还提高了
本文介绍「嫁接」技术，可在小计算预算下编辑预训练 DiTs 探索新架构。不从头训练，替换算子创建混合架构，保持质量同时减少计算量。还通过实验展示该技术在构建高效架构和文生图模型中的效果。
OpenAI总裁透露GPT-5改了推理范式，AGI实现要靠现实反馈
OpenAI总裁Greg Brockman在访谈中透露AGI之路，包括技术上转向强化学习推理范式，资源上持续投入计算资源，落地时封装成Agent。还提到GPT - 5改变推理范式，强调计算对AGI的重要性及模型落地等内容。
小白必读：到底什么是FP32、FP16、INT8？
文章介绍FP32、FP16、INT8等数字存储格式类型。指出它们是评估算力前提，不同格式在精度、范围、内存占用和计算速度上有差异，还提及多精度与混合精度计算，以及不同硬件对格式的支持情况。