Token调用量」共找到 1509 篇相关文章

新闻资讯8

OpenAI首个蛋白质模型披露更多细节,改进诺奖研究成果,表达提升50倍

OpenAI与Retro Bio合作开发的GPT‑4b micro,是专为蛋白质工程设计的GPT-4o微型版本。它改进诺奖获奖蛋白变体,将干细胞重编程标记物表达提升50倍,还能减少DNA损伤,研究团队公布更多突破细节。

量子位
开源动态8

用短视频成本生成长视频,字节Seed新注意力机制让计算降低85%

字节Seed与斯坦福等机构推出新模型,其新注意力机制MoC能让长视频生成计算降低85%,质不减且保持连贯性。团队将视频生成定义为上下文检索任务,提出MoC机制并阐述实现方法。

量子位
新闻资讯7

“如果你不用更多Token,就永远逃不出底层”:AI竞赛开始变成资源战争

文章围绕AI竞赛中资源分配问题展开,以SemiAnalysis创始人Dylan Patel经历为例,揭示Token成本疯涨、需求远超供给,介绍Anthropic模型优势,探讨具身智能成新需求点,分析竞争格局及供应链瓶颈,还预警反AI抗议。

InfoQ
产品应用8

Claude Code 省 Token 指南:慎用 1M 上下文,不开新会话或者总是开新会话都不对

文章聚焦Claude Code省Token问题,分析配额消耗快的原因,介绍提示缓存机制,给出省钱策略、操作规则,还提及委派工作及澄清误解,强调让缓存多命中、上下文少装无关内容。

宝玉AI
算法论文7

上交大和辉羲把LLM刻进ROM!推理性能冲2万token/s,GPU时代终结?

硅谷Taalas将大模型‘物理焊死’进芯片引关注,而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构,将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。

新智元
开源动态8

2.9K Star!这个工具让 Agent 查代码快了 200 倍!节省 98% Token 消耗!

当下,Agent 在代码工作流应用广泛,但在大型代码库搜索时存在精准性、Token 效率和速度问题。Semble 是 MinishLab 团队开发的面向 Agent 的代码搜索工具,能解决上述问题,还具备多方面亮点,安装和使用也简单。

开源星探
开源动态8

腾讯混元推出首款开源混合推理模型:擅长Agent工具调用和长文理解

6月27日,腾讯混元开源首个混合推理MoE模型Hunyuan - A13B,参数80B激活仅13B,推理快性价比高。它在多测试集成绩好,尤其擅长Agent工具调用和长文理解,还开源两数据集填补评估空白。

AI前线
新闻资讯7

2025上半年大模型使用观察:Gemini系列占一半市场份额,DeepSeek V3用户留存极高

推特博主「karminski - 牙医」基于OpenRouter数据,分析2025年上半年大模型API市场,涵盖总Token使用、市场份额、细分领域用、API接口使用趋势等,得出各模型表现及市场格局的观察结论。

Founder Park
产品应用8

华为云再掀算力风暴:CloudMatrix384超节点将升级,Tokens服务性能最大可超H20四倍

华为云在全联接大会2025发布新进展,如CloudMatrix超节点升级、首创EMS服务等。其以“算力黑土地”理念,用智算+通算策略满足产业需求,Tokens服务优势显著,还支撑多领域应用。

量子位
推荐文章8

AI Infra进入自进化时代!清华团队用「AI优化AI」造就国产万亿Token工厂

AI自主优化RSI成新焦点,被视为通往AGI的关键路径。硅谷为此沸腾,中国也不落后。清昴智能由清华团队创立,率先打造自进化算力底座,还基于国产算力打造万亿Token工厂,目标是让优化成为持续运行的基础能力。

量子位