「上下文成本」共找到 2088 篇相关文章
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
完全开源低成本的双足机器人
Unitree Qmini是完全开源的低成本双足机器人，能3D打印制作。它有完整开源资源，开发者可轻松获取组件，3 - 5小时完成组装。其设计模块化，适用于个人、教育、研究等多场景。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
微软：LLM上下文学习并非真的学习！
微软研究指出大模型上下文学习（ICL）虽数学上符合学习定义，但只是拟合prompt内统计规律，非掌握任务本质。通过大量实验，得出如例子越多模型表现越好、语言不重要统计重要等7条关键发现。
曦望，死磕AI推理成本｜甲子光年
1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。
AI 的「成本」，正在把所有人都拖下水
文章指出，虽大模型成本下降，但 AI 公司仍难盈利。因市场追逐新模型，且模型消耗算力单位剧增。如 Anthropic 的不限量套餐失败，各公司陷入囚徒困境，还给出按使用量计费等破局思路。
长上下文窗口、Agent崛起，RAG已死？
技术迭代下“RAG已死”论调出现，向量数据库Chroma创始人主张用上下文工程框架取代对“RAG”的狭义依赖。文章梳理业界不同观点，有人认为RAG在进化，有人称其成工程学科，也有人觉得会被Agent和长上下文取代。
英伟达新GPU，超长上下文/视频生成专用
在AI Infra Summit上，英伟达宣布推出NVIDIA Rubin CPX GPU，专为处理百万token级代码生成和生成式视频应用。它是首款为超大上下文AI量身定制的CUDA GPU，性能强且能效高，预计2026年底推出。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
2篇论文，最新上下文工程技术一次性讲透！
上下文工程技术持续火热，文章分享10月两篇相关论文。ACE让模型给自己写「战术板」，在多任务表现优；SA - ICL让LLM先搭框架再做题，在化学/物理准确率提升显著，还对二者做了横向对比。