「计算成本」共找到 2059 篇相关文章
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
零Token部署GraphRAG，LinearRAG做到了~
现有GraphRAG模型在实际应用中常不如朴素RAG，原因是自动构建的知识图谱质量不佳。LinearRAG框架通过Tri - Graph架构、两阶段精准检索和零Token范式重构GraphRAG，在多数据集上超越现有方法，代码和数据已开源。
TileLang深入详解-第一章-GPU 体系结构复习
作者借长假学习 TileLang 并撰写此文，先复习 GPU 体系结构，包括计算与线程组织、存储层次、专用指令单元，接着介绍核心性能模型与优化原理，最后给出基于 TileLang 的基准测试实践。
LightMem用3招重新设计了LLM的记忆，结果出乎意料
LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。
马斯克盛赞朱雀三号：能够击败SpaceX猎鹰9号
马斯克在中国民营可回收火箭朱雀三号首飞之际，盛赞其有超越猎鹰9号的潜力，还称中国航天若顺利5年能追上。朱雀三号即将首飞，有望成我国首款可回收运载火箭，采用不锈钢+液氧甲烷配方。
数据集蒸馏，连发两篇顶会！10%样本实现全量性能，鲁棒不失真
数据集蒸馏能让模型高效节能，WMDD和GUARD两项研究分别解决保留原始数据特性、提升模型对抗扰动能力问题。WMDD用Wasserstein度量保留几何特性，GUARD平滑损失景观获对抗鲁棒性。
不改模型也能提升推理性能？ICLR投稿提出测试时扩展新范式OTV
ICLR 2026投稿论文提出单token验证（OTV），是测试时扩展新机制，让模型能边推理边判断正误。它基于并行思考思路，借助轻量内部验证器分析推理过程，实验显示其性能优于主流方法。
用激光给芯片散热，摩尔定律天花板盖不住了
初创公司Maxwell Labs提出光子冷却法，可将芯片热量转化成光并去除。该方法基于反斯托克斯冷却原理，集成到薄膜芯片级光子冷板。相比传统散热，它效率更高，有望解决芯片散热难题，推动行业发展。
o1 核心作者 Jason Wei：理解 2025 年 AI 进展的三种关键思路
前OpenAI核心研究员Jason Wei跳槽Meta后，在斯坦福大学AI Club演讲，提出理解2025年AI发展的三个核心思想：验证者定律、智能的锯齿状边缘和智能商品化。他认为AI将解决可验证任务，智能成本会趋近零，且各任务发展不均衡。
8000行Python+Rust手搓ChatGPT，日收14.5k星！Karpathy：Agent只会帮倒忙
特斯拉前AI总监Andrej Karpathy发布开源项目nanochat，可搭建简易版ChatGPT复现模型。约8000行代码，成本低，功能多。卡帕西称手写代码，用Agent效果差，项目受网友热赞。