提示缓存」共找到 553 篇相关文章

算法论文8

Diffusion约2倍无损加速!训练-推理协同的缓存学习框架来了| HKUST&北航&商汤

HKUST、北航与商汤提出HarmoniCa框架,解决Diffusion模型推理慢、成本高问题。它通过SDT和IEPO机制,解决训练 - 推理脱节,在多模型上实现推理提速、质量提升,且训练推理开销低,已开源。

量子位
推荐文章7

三个方法让Cursor构建网站更加精美:Browser MCP 克隆 + 提示技巧 + 组件修改!(Bolt、Lovable)

文章介绍用Browser MCP克隆网站结构、结构化Prompt模板及UI组件修改三种方法,让Cursor构建网站更精美,还分享Lovable设计技巧、让AI网站变好看的方法及早期公司获客策略。

AI进修生
8

刚刚!Kimi Linear横空出世,全新注意力架构:1M长文本解码速度飙升6.3倍,KV缓存砍掉75%

月之暗面推出全新注意力架构Kimi Linear,有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈,性能超传统机制,还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率,实验表现佳。

AI寒武纪
开源动态7

上下文工程比提示词工程好 10 倍,比 vibe 编码好 100 倍!Karpathy 站台,堪称「全新的氛围编码」。

Andrej Karpathy 提出「上下文工程」概念,Shopify CEO 更青睐它。研究显示开发者因 AI 幻觉和错误多,不信任其生成代码。上下文工程可成 AI 辅助开发核心技能,文中还介绍了相关开源项目及使用方法。

AI进修生
产品应用7

更省 Token 的国产 Codex:ZCode,加上 DeepSeek 更夯!

介绍国产 Codex 平替 ZCode,它有 100 万用户,能接 DeepSeek,模型选择开放,缓存命中率高省 Token,插件生态完善,还介绍了安装、接入方法及多种实用功能。

AI产品自由
产品应用7

心得分享:凭借 Cursor,数周内完成产品上线月收入过万!

网友用Cursor数周开发垃圾邮件清理工具获利,月收入近1500美元。他分享七条使用心得,如提示“自顶向下”、测试先行等,还建议关注交付效率和质量,持续迭代。

AI工程化
算法论文8

Mamba核心作者新作:取代DeepSeek在用的注意力机制,专为推理打造

Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制,在减少KV缓存用量、保持模型质量的同时,显著提升解码速度,优化长上下文推理能力。

量子位
Product Application7

Wan 2.6 发布,可以参考视频进行角色扮演 & 终于有积分了:每天 150

Wan 2.6发布,积分从每天10个提升到150个。更新了主演、多镜头叙事、图像生成等新功能,如可将参考视频角色放入新场景,简单提示自动生成多镜头叙事视频等。

AI进修生
产品应用7

一把Claude Code 的解剖刀

文章介绍用抓包技巧了解Claude Code,还推荐项目claude - trace。它能查看Claude Code系统提示、工具输出等信息,有对话索引功能,采用前后端架构,可助学习构建AI Agent。

AGI Hunt
算法论文8

11位顶尖数学家发了篇没结果的论文,陶哲轩推荐都关注一下

11位顶尖数学家发起First Proof实验,设计10道研究级数学问题,检验AI独立解决问题的能力。陶哲轩认为实验有趣,当前AI一次性提示难解题,截止期限前成果值得关注。

量子位