「百万Token计算」共找到 1435 篇相关文章
英伟达Vera Rubin首秀，DeepSeek V4 Pro 跑出30倍Agent吞吐
NVIDIA公布基于真实芯片的Vera Rubin性能测试结果，在针对Agent工作负载的测试中优势明显。SpaceXAI将部署其CPU，探索轨道计算。这显示未来AI竞争关键是支撑Agent的计算基础设施。
分享2篇OpenClaw最新Skill论文~
OpenClaw作为最大开源Agent框架，其Skill生态安全受关注。分享两篇论文，《Clawdrain》揭示Token耗尽攻击，《SkillFortify》提出形式化防御框架，从攻防维度揭示OpenClaw深层安全风险。
下一代超算，GPU得配QPU：老黄要把量子计算机和GPU「焊」在一起了
在VivaTech 2025会上，黄仁勋发布面向量子计算的革命性平台CUDA - Q。回顾英伟达CUDA - X套件及关键库，强调量子计算“拐点”，描绘QPU与GPU协同蓝图，宣布算法堆栈在Grace Blackwell 200加速。
快手 AB 场景提速 145 倍，从 Spark 到 Apache Doris 的加速实践
快手 AB 指标生产场景从 Spark 切换到 Doris 提速 145 倍、资源消耗降 72%，刷新 Doris 单机群最大规模。本文介绍选择 Apache Doris 的原因，以及在存储、计算、调度、稳定性等方面的优化，对构建 AB 实验平台有参考价值。
狂拿大模型明星订单，一家清华系HPC-AI Infra公司浮出水面
本文介绍清华系计算创业公司是石科技，其93年创始人闫博文不囤算力仍拿下大模型明星公司订单。团队技术实力强，3次获戈登·贝尔奖。公司构建全栈能力，为多领域提供服务，未来想以算力赋能各行业。
The Batch：826 | 提高输出准确性的记忆层
通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
递归神经网络的复兴：Mixture-of-Recursions
Google DeepMind研究者设计的语言模型，能判断关键单词并进行深度递归计算，通过轻量级“路由器”节省计算资源，在同等训练成本下表现显著优于传统模型，文中还提及其他解决动态算力分配问题的思路。
Reasoning新突破：SoftCoT++如何让LLM‘多想几条路’？
LLM推理依赖‘思维链’，传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’，拆分‘思考’与‘推理’，用专用初始token和对比学习，实验中全面超越传统方法。
Agent 形态一天一个样，Infra 到底该为谁而建？
过去一年，Agent 应用形态多变，但进入稳定生产环境的项目有限。清程极智师天麾认为，Agent Infra 重要性待显，当前应提高 Token 生产交付效率。还探讨了 Agent 发展问题、Token 相关指标及收费模式等。