「token使用」共找到 1866 篇相关文章
LightMem用3招重新设计了LLM的记忆，结果出乎意料
LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。
刚刚，GPT-5.4 发布，百万上下文、最强全能模型
OpenAI发布GPT - 5.4，集推理、编程等能力于一体，支持百万级上下文窗口。有三个版本，功能全面升级，如支持中途打断、电脑操作、视觉能力提升等，还更省token、少幻觉，安全机制完善，价格有调整。
EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法：LightThinker
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理时产生大量中间步骤和文本，拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker，可动态压缩推理步骤，降低内存占用和计算成本。
2亿多人开始和AI打电话，他们在聊什么？
2025年12月豆包月活达2.27亿，越来越多人与它语音通话。此前AI语音交互存在问题，豆包升级为全双工模型，体验更像打电话。作者实测其在不同场景表现出色，还分享使用技巧，并对比了和ChatGPT语音的优劣。
龙虾史上最大升级！但接了微信的千万别更
时隔九天，虾父Peter带来龙虾全新版本2026.3.22-beta.1，堪称有史以来最大更新。更新亮点包括插件升级、模型更新、交互优化、安全强化等，也修复了多个关键安全漏洞，但部分用户更新后遇到微信、WhatsApp使用问题。
5万人抢光「阶跃龙虾」：3分钟一键部署，「养虾」终于变简单了
3月12日「阶跃龙虾」上线，提供5万个免费体验名额。此前阶跃星辰自研的Step 3.5 Flash模型在OpenRouter平台霸榜。其一键部署功能简化养虾流程，且云端版本支持7×24小时在线，国产厂商正推动AI Agent使用范式转变。
奥数金牌只是序章！OpenAI谷歌彻底打脸预言家，AI巨浪势不可挡
2022年专家预言AI到2025年赢得IMO金牌概率低，结果OpenAI和谷歌DeepMind的LLM提前摘金。此前多项AI基准测试预测也失准，AI发展远超预期。GPT - 5降低使用门槛，群体智能时代到来，各机构需重新思考生存之道。
智谱开启狂飙模式！7倍提速，全球最快，旗舰模型即问即答
5月22日，智谱上线GLM - 5.1高速版API，输出速度达400 tokens/s，刷新全球大模型API速度纪录，比原版提速约7倍。该速度由GLM团队和TileRT团队联合打造，核心优化分三层推进，且是稳定可用的生产级能力。
坏了，我成AI的乙方了！Anthropic论文爆火，谁还敢无脑Copy？
Anthropic开年论文实锤AI让程序员变傻，用AI辅助的人比纯手写只快2分钟，且测验平均分低17%。研究将工程师使用AI的交互行为归纳为五种模式，指出主动拷问AI才能进化，高分者会主动制造障碍。
SDD 如何在复杂业务系统中真正落地？
文章围绕SDD在复杂业务系统落地展开，介绍OpenSpec库使用，对比与系分差异，分析其优势与问题，如LLM与IDE执行能力鸿沟、无update命令等，还对比OpenSpec和GitHub Spec Kit，并给出流程及提示词。