「上下文token」共找到 1207 篇相关文章
我烧了上亿token玩Clawdbot，结果发现国产平替更香，还免费。
作者花上亿token研究Clawdbot，发现其虽火但贵，Cowork也因收费和网络限制被盖过热度。作者转而探寻国内平替，介绍阿里云上线Moltbot云服务，重点推荐阿里QoderWork，测试后认为它是能打的免费平替。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。
卡帕西没做完的，开源社区48小时搞定了！完全体知识库，token省70倍
Karpathy分享的个人知识库爆火，48小时后开源社区推出Graphify工具。它零配置、全模态、本地跑，能自动构建知识图谱，省71.5倍token，还全平台适配，降低了上手门槛。
刚刚，英伟达祭出下一代GPU！狂飙百万token巨兽，投1亿爆赚50亿
昨天，英伟达发布专为海量上下文AI打造的CUDA GPU——Rubin CPX，将大模型推理带入「百万Token时代」。它性能强大，能带来高回报，可重写推理经济，还将得到英伟达全栈AI生态支持，预计2026年底可用。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
卡帕西点赞Transformer内置计算机！每秒3万Token吞吐，拿下世界最难数独
当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。
EMNLP 2025 | CARE：无需外部工具，让大模型原生检索增强推理实现上下文高保真
MetaGPT等机构团队发布CARE框架，可让LLM将推理上下文与自身检索能力结合，已全面开源。它提出原生检索增强推理范式，采用两阶段训练策略，在问答基准实验中表现出色，为解决模型问题提供新路径。
九章云极发布AI工厂体系：破解140万亿Token时代的落地悖论｜甲子光年
九章云极于6月17日发布Alaya NeW AI工厂体系，锚定十万P算力、十万亿Token、千个模型、千倍降本四大目标。该体系是智能工业化的必然产物，能解决资源难转生产力的难题，还具备技术效能、生态范式和商业飞轮三大支柱。
养虾人狂吃国产模型！4.19万亿Token调用量激增34.9%超越美国
根据OpenRouter数据，上周中国大模型周调用总量飙升至4.19万亿Token，再度超越美国登顶全球。中国产品在全球大模型调用量Top 5中占三席，国产大模型受青睐，但在速度和价格方面仍待提升。
12秒生成1万token！谷歌推出文本「扩散模型」Gemini Diffusion，研究员：演示都得降速看
谷歌将图像生成常用的“扩散技术”引入语言模型，推出Gemini Diffusion，12秒能生成1万tokens，速度比Gemini 2.0 Flash - Lite更快。它通过逐步优化噪声学习生成输出，目前是实验性演示，可申请体验。