「并行解码」共找到 325 篇相关文章

算法论文8

推理速度飙升5倍,苹果提出全新Multi-Token生成框架!

自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架,挖掘其对未来词元“先验知识”,通过多项技术并行预测多词元,微调预训练模型可显著提速且不损输出质量。

PaperAgent
算法论文8

能进化的Skill,才是好Skill~

2026年,我们追求“越干越好”的Agent。AutoSkill和XSKILL两篇论文指出,静态的Skill只是高级Prompt,能自我进化的Skill才是真正的数字资产,还介绍了两者的设计、优势及未来Skill的标准形态。

PaperAgent
开源动态8

字节开源高效解析文档图像的新型多模态模型Dolphin,快速将复杂的文档图像转化为结构化数据。

字节开源新型多模态模型Dolphin,采用“先分析后解析”范式,能将复杂文档图像转化为结构化数据。它有卓越性能和多种特性,还提供安装、推理使用指南。

GitHubStore
产品应用8

Codex 独立 App 来了,这是一个新东西

OpenAI 推出 Codex 独立桌面应用,或改变 AI 编码方式。它是 Agent 的指挥中心,有 Worktree、Skills、Automations 等功能,支持双个性模式和安全沙箱,限时开放且付费用户额度翻倍。

AGI Hunt
新闻资讯8

LeCun和哈萨比斯「吵」起来了:「通用智能」到底存不存在?

LeCun 在播客称「通用智能」不存在,引发广泛讨论。Google DeepMind 掌门人 Hassabis 引用该帖硬刚,认为人类大脑和 AI 基础模型近似图灵机,有通用性。LeCun 回应强调这是数学事实,双方分歧反映对 AGI 发展路径的不同判断。

机器之心
产品应用8

nndeploy:一款基于可视化工作流的AI部署工具

nndeploy是简单易用且高性能的AI部署框架,可将推理优化转化为可视化工作流,无需前端技术栈。它还提供端侧完整AI部署方案,有多端推理等功能,介绍了使用方法与技术原理。

GiantPandaLLM
算法论文8

谷歌提出破局Self-Consistency计算瓶颈!LLM推理效率革命,推理加速不牺牲精度

Google Research等团队提出CISC,通过给推理路径赋予置信度权重,少量样本即可超越传统自洽性效果,平均减少40%计算成本,还提出WQD指标揭示模型自评估能力本质。

深度学习自然语言处理
开源动态8

深度拆解 Muse Glimmer,24GB 显存跑 30B Agent,Meta 到底做了什么?

昨天,Meta发布约30B参数的多模态Agent模型Muse Glimmer,支持128K级上下文。它采用Apache 2.0许可证开放,有量化版本等。其技术设计围绕显存、上下文管理等问题展开,在多方面做了取舍。

AI科技评论
产品应用8

告别单打独斗!ClawTeam-OpenClaw 一键 spawn 整个 AI 开发团队

ClawTeam-OpenClaw 是多代理协调框架 OpenClaw 深度适配版,让 AI 代理自动组队协作。它有一键 spawn 团队、智能任务依赖管理等功能,在科研、开发、投资分析场景优势明显,介绍了使用方法和项目地址。

小华同学ai
新闻资讯8

763亿港元,大模型公司最大规模IPO!MiniMax登陆港交所,开盘前大涨50%

MiniMax正式在港交所主板挂牌上市,股票代码“00100”。此次全球发售约3358万股,募资约55.4亿港元。市场认购热烈,早盘一度涨幅超50%,市值突破763亿港元。其技术多模态齐发,组织高效,为行业提供新样本。

量子位