「token使用量」共找到 2421 篇相关文章
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
基础大模型应用于下游任务时微调成本高，低秩适应（LoRA）方法虽降低成本，但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架，在25个多领域任务验证效果好，内存占用仅1/8。
时隔两月，Mistral AI终于上新Medium 3，近期还有「One more thing」
时隔两月，Mistral AI 推出 Mistral Medium 3，性能介于轻量级和大规模模型间，优于 GPT - 4o 等。未开源，可通过官网等使用，专为企业设计，成本低。还预告将推「大型」产品，同时推出企业聊天机器人 Le Chat Enterprise。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
OpenAI 黑科技 Deep Research 诞生记：一个工程师的“不务正业”如何改变 AI 战争格局
OpenAI宣布美国用户可免费使用集成于ChatGPT的AI研究助手Deep Research。OpenAI负责人分享其背后故事，探讨起源、人类专家数据作用等，还提及RFT时机、代理安全性等，并展望其能访问私有数据，适用于具体任务。
突发！Claude Opus 5深夜震撼发布，多项跑分锤爆Fable 5，价格腰斩
Claude Opus 5正式发布，总体智能逼近Claude Fable 5，价格仅为一半，多项跑分超Fable 5。它专为高频使用设计，各领域进步显著，有强自我验证和迭代能力，还发布API更新与提示词编写指南。
从零开始玩转循环 (Getting started with loops)【译】
Claude Code团队将“循环”定义为AI智能体不断重复执行工作周期，直至满足预设停止条件。文章介绍了回合制、目标导向、基于时间和主动式四种循环类型、适用场景及控制token消耗方法，还给出保证代码质量的原则。
AI给你的总是平庸答案?5.8万星插件证明:问题不在模型,在你
GitHub上5.8万星的`taste-skill`仓库，无模型代码，仅用文本规则让AI编程工具输出更有品味。揭示AI默认给平庸答案是概率采样结果，还给出反中位数三问及AI时代变贵的是判断力。
破天荒！DeepSeek V4正式版居然要涨价，而且翻着倍地涨
DeepSeek官方邮件称7月上线V4正式版，高峰时段API各类token价格翻倍，但其他时段仍维持低价。此前它一直以低价著称，此次涨价或与算力紧张、自建数据中心有关，且更新将带来功能优化和性能提升。
1.4K Star！不要问答，要完成任务，一个合格的金融Agent应该是什么样？
过去一年AI Agent火热，但金融场景投研是长链路任务，有诸多硬约束。LangAlpha是Ginlix AI推出的开源金融Agent项目，能解决实际金融研究任务，有核心架构和关键能力，还给出使用方式、典型Demo及横向评测。
英伟达MIT出手！华人团队重磅开源，大模型推理内存暴降10倍
英伟达、MIT、浙大华人研究者联合推出TriAttention，核心是在pre - RoPE空间用Q/K三角集中度估计KV token重要性，保留关键部分。它使内存消耗降10倍，吞吐量提2.5倍，还提供vLLM集成和MLX实验性支持。