输入压缩」共找到 436 篇相关文章

产品应用8

谷歌首个原生多模态向量模型发布:Agent 可以用文字搜图片、用图片搜视频了...

谷歌推出首个原生多模态嵌入模型Gemini Embedding 2,通过Gemini API和Vertex AI公开预览。它将文本、图像等映射到统一向量空间,支持多模态交错输入,性能超越现有领先模型,开发者可快速接入。

AI寒武纪
开源动态7

我去,终于找到原因啦,58.4k Star MemPalace,不敢相信!!!!

AI编程中,上下文压缩后易丢失关键信息。MemPalace将对话和资料按原文存本地,按项目和主题精准找回。本文讲清其存储与检索原理、使用场景、注意事项及安装建议。

小华同学ai
产品应用8

Google Omni首发「AI视频编辑」功能,AI视频的下一种形态终于来了!

Google Omni首发全模态AI视频编辑功能,是继Banana后AI圈重大技术进步。它能改变视频内容、重绘风格、多轮修改,支持全模态输入,精通物理概念,让AI视频更逼真。

开源AI项目落地
新闻资讯7

登上热搜!Prompt不再是AI重点,新热点是Context Engineering

最近「上下文工程」很火,Andrej Karpathy 为其打 Call。它和「提示词工程」不同,是构建自动化系统给模型提供输入。文章介绍了其核心要素、实践方法论,还给出了参考的博客和视频。

机器之心
算法论文8

1个Token测出模型降级调包!成本砍到千分之一,API供应商的小伎俩全曝光了

法国研究人员开发新检测技术,能识别云端模型隐秘变动。对数概率追踪用于灰盒环境,成本仅传统千分之一;黑盒边界输入追踪用于黑盒环境,成本为先进方案1/30。这些工具让API供应商“调包”行为现形。

量子位
算法论文8

扎克伯格的豪赌初见成效?Meta新方法让LLM长上下文处理提速30倍

Meta Superintelligence Labs提出REFRAG高效解码框架,解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码,让首个token生成时间加速达30.8倍,扩展上下文,且精度不降反升,不过价值待实际检验。

机器之心
推荐文章8

CC&LG实践|基于 LangGraph 一步步实现 Claude-Code 核心设计

本文深入剖析Claude - Code核心设计与关键技术,结合LangGraph框架,从基础ReAct Agent构建简版Claude - Code,涵盖人工审查、SubAgent实现、任务管理、上下文压缩等多方面,还提及流式响应升级及相关对比。

阿里云开发者
推荐文章7

CUTLASS CuTe GEMM细节分析(一)——ldmatrix的选择

作者作为CUTLASS CuTe初学者,记录问题分析过程。本文聚焦如何基于TiledMMA及输入矩阵在Shared Memory上的Layout选合适Copy Operation完成拷贝,结合实例讲解ldmatrix指令选择,还给出参考代码。

GiantPandaLLM
开源动态8

Meta开源Muse Glimmer,30B Agent小钢炮跑进你的电脑

Meta发布并以宽松协议开源Agent模型Muse Glimmer。它30B参数,能跑在Mac或PC上,多项Agent基准领先。可完成端到端任务、调用工具及多步推理,接受文本与图像交错输入,用途广泛。

AIGC开放社区
产品应用7

榨干Codex!OpenAI工程师亲授Codex真正用法

OpenAI客户支持工程师Jason称,Codex不只是编程助手,而是完整电脑工作系统。通过持久对话流留存记忆、语音输入精准表达、自动化接管任务等,能让机器高效完成各类工作,人还可随时干预。

AIGC开放社区