「上下文成本」共找到 2168 篇相关文章

新闻资讯7

发 token 当工资?工程师不只拿现金和期权,开始按 token 分身价了

硅谷正用 token 吸引人才,国内也有类似趋势。AI 使用成本渐成人力成本关键,token 对应算力争夺,其价格上涨,大厂还想将 token 变成新价值单位,引发质疑。

InfoQ
新闻资讯8

百度想明白了:旧供给到达极限了

当下企业应用AI时,Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号,推出新全栈AI云,含Agent Infra和AI Infra两层架构,多个场景应用初显成效。

InfoQ
算法论文7

姚顺雨署名:大模型「现学现卖」能力首次被系统评估,腾讯、复旦联手发布CL-Bench

腾讯混元团队和复旦大学研究人员联手推出全新基准测试CL - Bench,系统性评估大模型上下文学习能力。测试显示十大前沿模型表现不佳,揭示当前大模型在该能力上的普遍短板,并指出未来四个探索方向。

AI寒武纪
算法论文8

提速30倍,Meta重新定义了新一代RAG!

LLM时代,RAG成知识密集型任务标准范式,但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化,提出REFRAG框架,有独特训练策略,实验效果显著。

PaperAgent
推荐文章8

【访谈对话】造过 Codex 的人,为什么每天用 Claude Code

Calvin French - Owen 曾参与构建 Codex,如今日常用 Claude Code。他与 Garry Tan 在 YC 播客对话,探讨了编程 Agent 产品哲学差异、分发逻辑、上下文工程等,还提及 Segment 重建、未来设想及安全等问题。

宝玉AI
产品应用8

从芯片到集群:启邦泽益的推理算力性价比突围

本文整理自启邦泽益联席CEO马冠华在2026芯算力创新峰会上的演讲,针对大模型推理爆发、算力成本高企的行业痛点,介绍启邦泽益从芯片到集群的全栈高性价比推理算力方案。

芯师爷
推荐文章8

造过 Codex 的人,为什么每天用 Claude Code

Calvin曾带队构建编程Agent Codex,如今日常用Claude Code。他和Garry Tan在播客聊了编程Agent的产品哲学差异、分发逻辑等。Claude Code拆分上下文表现出色,LLM成开发者工具推荐引擎,还探讨了构建、使用编程Agent的要点。

宝玉AI
新闻资讯8

硅谷今夜集体失眠!互联网女皇340页AI报告猛料刷屏,大佬熬夜头秃

互联网女皇Mary Meeker暌违六年,发布340页《AI趋势报告2025》。报告指出AI使用成本下降,推理成本暴跌,中国模型以低成本崛起,中美在AI模型争霸,还提及ChatGPT的辉煌与未来潜在挑战等。

新智元
推荐文章9

一万字Jev 工程实践长文:把 Agent 的“判断题”从大模型里拆出来

本文是一万字Jev工程实践长文,作者结合自研落地Demo,拆解Jev核心设计逻辑,讲解如何将Agent中高频封闭的判断任务从大模型生成链路拆分,解决Agent上下文膨胀痛点,分享工程实现与选型思路。

腾讯技术工程
算法论文8

华为 IJCAI 2026 论文盘点:从「规模密度」转向「设计密度」

IJCAI 2026将召开,AI算力成本高,参数扩张边际收益低,技术创新逻辑转向‘用得更省’。华为四篇被收录论文,用精巧架构和训练策略,在四方向展现系统化工程能力,提供技术转型路径。

AI科技评论