「Token调用」共找到 936 篇相关文章
30天烧掉60万亿，扎克伯格没进前250：大厂AI沦为KPI游戏
亚马逊、Meta等大厂流行用token摸鱼，员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出，成本飙升。这既扭曲生产力，又为资本开支背书。
上交大 × 华为小艺推出LoPA：7B扩散语言模型单样例1000+ tokens/s！
上海交通大学DENG Lab联合华为小艺团队提出无需训练的解码算法LoPA，配合自研的LoPA - Dist分布式推理系统，显著提升扩散大语言模型（dLLMs）的推理并行度和吞吐量，将推理效率推向新高度。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
逼AI当山顶洞人！Claude防话痨插件爆火，网友：受够了AI废话
一个叫「caveman」的Claude Code插件在Hacker News爆火，冲破2w星。它核心是条prompt，删掉冠词等废话，号称省75%输出token。但它不压缩模型后台推理token，真实成本节省存疑。
openJiuwen协同昇腾打造智能体「算力亲和」技术，首token时延砍半，推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态，导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术，建立语义协同机制，优化 KV Cache 管理，提升 Agent 系统运行效率。
一百万亿Token里的AI现状：OpenRouter和a16z重磅研究带你透视AI江湖
OpenRouter和a16z发布重磅研究，用100万亿Token绘制AI实景地图。2025年推理模型崛起，开源模型流量份额攀升，编程与角色扮演需求大，还揭示了用户留存的“灰姑娘效应”等，展现多元AI世界。
拒绝强行AIGC！| 一种安全实用、准确率高的Text2Sql方案
在金融、医疗等对精确性、透明度和安全性要求高的领域，完全依赖大模型NL - to - SQL能力易出错。本文提出基于函数调用LLM的新范式，将LLM能力聚焦于调用预定义功能函数，提升了数据检索的准确性、透明度和可维护性。
「回答一切」吐槽潮中 Sam Altman 确认： 4o 回归，GPT-5 将进行六大改进
OpenAI在Reddit举行GPT - 5问答活动，网友吐槽多。Sam Altman确认GPT - 4o回归，还表示GPT - 5将进行加倍调用速率、保留旧模型选择权等六大改进，同时回应了用户对旧模型、调用限额等方面的质疑。
AI 提效了，老板觉得自己又行了：可代码行数和 Token 排名，真该拿来裁人吗？
文章探讨AI提效下的行业现状。开发者节奏加快，企业收紧人力。不同行业提效有别，互联网显著，金融审慎。还谈及效率悖论、裁员依据、生产力衡量及成本管控，指出提效应用于承接项目而非裁员。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。