「百万Token计算」共找到 1374 篇相关文章
300只狗试用延寿药，「寿命曼哈顿计划」启动！
1300只狗参与「延长寿命」实验，被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显，制药、临床研究等多方面有进展。Altman等名人押注「永生」，但长寿也带来伦理等诸多问题。
MCP 或将成弃子
Anthropic工程师发博客‘背刺’自家MCP，提出新方案让token消耗大减。新方案把MCP服务器转成代码文件运行，Skills或成MCP替代品，虽MCP还有价值场景，但多数情况下代码+Skills更优。
中国算力芯片的“新十年”
文章指出过去40年处理器芯片发展呈“否定之否定”，近年整机和平台厂商重归自研，异构计算成趋势。未来中国算力芯片突破口在指令系统结构统一，可把RISC - V作统一指令系统开发各类芯片。
开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路
大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。
OVI：统一的音视频生成模型，声音与画面同步诞生
音视频生成领域以往多阶段架构易致音画不同步等问题。耶鲁大学团队提出 OVI 统一范式，采用双塔 DiT 架构与分块式跨模态融合机制，实现音画同步生成，不过目前有计算开销大、音频有局限等问题。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
Pinecone 曾将 RAG 定义成大语言模型 grounding 标准范式，如今却宣布 RAG 时代结束。它推出面向 Agent 的知识引擎 Nexus，提出“知识编译”概念，称能提高任务完成率、降低 token 开销，整个 AI 世界都在将“推理”往上游移动。
重构线性视觉Transformer，精度与效率双平衡 | CVPR'25
南洋理工、北航与合工大联合提出CARE Transformer，以非对称解耦建模局部与全局，降低计算开销、提升特征表达。实验显示其在移动端低延迟高精度，打破“效率与精度不可兼得”困局。
给大模型装上「思维分段引擎」：浙大InftyThink解锁无限深度推理
如今大模型长上下文推理面临计算成本高、推理易中断问题。浙大联合北大团队提出InftyThink新范式，将传统推理拆成短片段并总结，突破推理长度限制，在多基座模型实验中表现优异。
一文看懂华为昇腾芯片
文章介绍华为昇腾芯片，它是面向高性能AI计算的NPU芯片，有昇腾310、910、610等系列。还提及芯片演进、参数、价格、出货量等情况，以及基于芯片的硬件体系，覆盖多场景满足不同需求。
近期，不错的LLM Agent统一记忆框架综述~
随着GPT、Qwen、Claude等大模型能力提升，LLM-based Agent走向长期任务。论文提出统一框架拆解Agent Memory为四组件，围绕两个数据集复现比较10个方法，还设计出新的低token开销框架。