「输入压缩」共找到 459 篇相关文章
腾讯AngelSlim重磅升级！面向全模态的大模型压缩算法工具包，推理速度飙升 1.8倍！
近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。
推翻「预测下一个token」范式！微信AI新研究：把token压缩成连续向量更具性价比
微信AI和清华团队提出新范式CALM，把token打包成连续向量，让大模型从预测下一个token转变为预测下一个向量。实验表明它能减少生成步骤，在平衡性能和计算成本时性价比更高。
腾讯发布SpecExit算法，无损压缩端到端加速2.5倍！解决大模型长思考效率难题
腾讯发布 SpecExit 算法，将思考早停与投机采样融合，利用轻量级草稿模型预测“退出信号”，在不引入额外探测开销的前提下，实现动态、可靠的思考早停，在 vLLM 上推理端到端加速 2.5 倍，准确性和推理效率得到双重保障。
全球首款AI原生UGC游戏引擎诞生！输入文字秒建GTA世界，试玩体验来了
全球首个由实时世界模型驱动的AI原生游戏引擎Mirage问世，玩家能实时构思、生成并体验游戏世界。虽当前体验有不足，但它有显著优势，支持多元游戏类型，基于前沿技术构建。
微软 CEO 纳德拉：离了 AI 软件开发没法想！编程如诗都是“压缩”。社区：必须拥抱变化。
微软CEO纳德拉在访谈中表示，如今软件开发离不开AI，AI编程已成标配。他强调AI本质是赋能人类的工具，还提及AI普及挑战，同时保持对AI局限性的清醒认知，分享领导哲学与诗意展望。
告别VAE压缩损耗，南京大学用DiP让扩散模型回归像素空间，实现10倍加速与SOTA级画质
南京大学、腾讯优图实验室和新加坡国立大学发布DiP框架，即将开源。该框架不依赖VAE，仅增0.3%参数量，推理提效10倍，在ImageNet获1.79的FID分数，解决扩散模型在像素空间难兼顾质效的问题。
Wispr Flow 平替, 这款开源中文语音助手，程序员真该试试,本地离线的中文语音输入神器来了（开源白嫖版）
蛐蛐（QuQu）是开源桌面应用，用本地语音识别模型和配置的大语言模型，将语音实时转文字并润色。它主打本地语音工作流，替代Wispr Flow，免月费且保护隐私，适合中文用户。
AI在实时视频里秒“剪”出你想要的部分！输入文字/图/视频片段，它都能秒懂｜ICCV2025
最新混合模态在线视频定位技术OVG - HQ开挂了！它能根据文字、图、视频片段等线索，在实时视频流中精准裁剪出关心的事件，已收录于ICCV2025，破局以往技术“离线”“词穷”缺陷。
让AI自动化控制电脑的一切操作automation-mcp
自动化 MCP 是模型上下文协议服务器，为AI提供完整 macOS 桌面自动化能力，如控制鼠标、输入指令等。文章介绍了安装、使用工具、架构、安全权限、集成示例等内容。
Clawdbot 如何搭建永久记忆管理系统：全靠 MD 文档
AI研究工程师Manthan Gupta复盘Clawdbot记忆机制，其记忆用MD文档存档，有双层记忆系统。系统有独特管理方式，如压缩、记忆刷新等，坚持透明度、搜索、持久性、混合等原则。