提示词压缩」共找到 730 篇相关文章

算法论文8

GAIR Paper 106|追踪视觉 Token 的演化轨迹,实现无损压缩与 60% 推理加速|CVPR 2026

近年来大视觉语言模型虽推动多模态智能发展,但推理成本高昂。山东大学和MBZUAI团队提出TransPrune,从演化视角衡量视觉Token重要性,保持性能无损同时降低60%推理成本。

AI科技评论
新闻资讯8

推理成本太高、算力不够用?单纯堆卡没用,得靠极致的“压缩”与“调度” | AICon

大模型落地面临推理成本高、算力需求大的问题。AICon大会上,阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案,覆盖云到边缘、多算力平台。

InfoQ
算法论文8

8B模型可以超过GPT-4o!并行KV Cache压缩支持的128K长度外推方法ParallelComp

大模型长文本推理存在瓶颈,作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新,能让 8B 模型性能达 GPT - 4o 的 91.17%,特定任务超 GPT - 4o。

机器之心
算法论文8

仅保留35% Token,性能反超原模型!快手可灵等用视觉信息引导音频压缩,推理时间直降42%

Omni - LLM计算浪费严重,快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系,通过时空联合剪枝压缩视频、视觉引导筛选音频Token,大幅减少Token数量,提升性能和推理效率。

量子位
产品应用7

继微软Playwright之后,谷歌Chrome DevTools MCP也来了(网站开发,AI 自动调试控制台错误)

继微软Playwright后,谷歌推出Chrome DevTools MCP,可让AI代理用上Chrome DevTools,能查DOM/CSS、跑JS等。文中给出多种使用提示示例,还提供了安装方法链接。

AI进修生
产品应用7

使用 Claude Code:会话管理与 100 万 上下文

本文是 Claude Code 的产品使用指南,介绍了其新更新的 /usage 命令,阐述了上下文、压缩、衰减等概念,还给出会话管理建议,如何时开新会话、用回溯替代纠正等,助用户用好该工具。

宝玉AI
推荐文章7

写给Agent的Loop,关键不在循环那六行代码本身

最近‘别再一句句给Agent写提示,去写循环’说法火了。虽循环代码简单,但关键在模型周围。循环工程有四大难点,角色也从操纵Agent变为设计系统,不过此说法也有反对声。

AI工程化
新闻资讯8

震撼,世界模型第一次超真实地模拟了真实世界:谷歌Genie 3昨晚抢了OpenAI风头

昨晚谷歌DeepMind宣布Genie世界模型到第3代,能通过单个文本提示创建交互式、可玩环境。它在多方面优于前代及其他模型,具备构建完整世界能力,但也存在动作空间有限等局限,未来应用值得期待。

机器之心
新闻资讯8

Anthropic 发布 AI Agent 上下文工程指南

今年6月Andrej Karpathy提出用「上下文工程」取代「提示工程」。Anthropic发布工程博客呼应此观点,指出构建AI应用重心转向策划上下文。文章详述上下文工程重要性、有效上下文剖析、检索及长时任务应对技术等。

AGI Hunt
产品应用7

Sora 2 App 上手体验攻略,附Sora AI视频

本文是Sora 2 App上手体验攻略。Sora 2 PC版能依提示生成精美电影感视频,还可创建虚拟形象;App交互似抖音,能录制上传自身形象生成视频。其生成视频镜头自然,有“AI导演感”,但目前时长较短。

AI Reading Hub