「Token 工程」共找到 1340 篇相关文章
30天烧掉60万亿,扎克伯格没进前250:大厂AI沦为KPI游戏
亚马逊、Meta等大厂流行用token摸鱼,员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出,成本飙升。这既扭曲生产力,又为资本开支背书。
2026 年,万物皆 Coding Agent 的平台工程新范式(A2A / ACP / MCP / Skill)
过去 DevOps 工具链复杂,如今 AI 重塑其为 Coding Agent。借助 A2A、ACP、MCP 和 Skill,可构建 Agent 网络。文章分析平台工程演进,介绍相关协议,对比编排模式,还给出 Routa 编排架构实践参考。
上交大 × 华为小艺推出LoPA:7B扩散语言模型单样例1000+ tokens/s!
上海交通大学DENG Lab联合华为小艺团队提出无需训练的解码算法LoPA,配合自研的LoPA - Dist分布式推理系统,显著提升扩散大语言模型(dLLMs)的推理并行度和吞吐量,将推理效率推向新高度。
DeepSeek-OCR降本增效,10×暴力压缩还能读得清
Deepseek - OCR模型发布,通过光学压缩技术解决长文本处理的计算效率问题,能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程,还展示其用较少token超越现有模型的能力。
逼AI当山顶洞人!Claude防话痨插件爆火,网友:受够了AI废话
一个叫「caveman」的Claude Code插件在Hacker News爆火,冲破2w星。它核心是条prompt,删掉冠词等废话,号称省75%输出token。但它不压缩模型后台推理token,真实成本节省存疑。
openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。
阿里 Qoder 把这层 AI 编程的窗户纸捅破了
2025年大模型下沉到应用层,浏览器和编程工具被重新发明。阿里新发布的Agentic编程平台Qoder,增强对巨大代码工程理解能力和代码生成准确率,其上下文工程观是突破,新引入的Quest Mode很独特。
一百万亿Token里的AI现状:OpenRouter和a16z重磅研究带你透视AI江湖
OpenRouter和a16z发布重磅研究,用100万亿Token绘制AI实景地图。2025年推理模型崛起,开源模型流量份额攀升,编程与角色扮演需求大,还揭示了用户留存的“灰姑娘效应”等,展现多元AI世界。
Auto Research时代,47个没有标准答案的任务成了Agent能力必测榜
Einsia AI旗下Navers lab发布Agent Benchmark——Frontier-Eng Bench,让AI在47个多学科交叉的硬核任务中做工程优化,测试其迭代优化能力。研究总结出AI进化规律,初步勾勒接近真实工程循环的AI系统。
金山、Zilliz、腾讯、灵犀量子专家齐聚,揭秘 AI 记忆、RAG 演进与自我进化的工程实践 | AICon
2025 年构建复杂 AI 系统面临记忆缺失、检索瓶颈、认知固化等系统工程挑战,Context Engineering 是关键。AICon 北京站邀金山、Zilliz、腾讯、灵犀量子专家,分享上下文工程技术实践。