token使用量」共找到 2398 篇相关文章

算法论文8

超越MLA!新架构MLRA百万token,解码最高2.8倍速 | ICLR'26

大语言模型处理长文本时,自回归生成受限于显存带宽。为减少KV缓存开销,业界尝试多种方法,但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA,拆分KV缓存为四个并行分支,降低显存占用,实现4路张并行,性能更优。

新智元
产品应用8

蚂蚁集团扩散大语言模型新突破:超800Token/s,速度与质兼得

蚂蚁集团将LLaDA更新到2.1,通过引入“草稿 - 编辑”机制,打破扩散模型推理速度与质的对立僵局。它有极速和质两种模式,还采用混合训练流程及强化学习,在多基准测试中表现出色。

AIGC开放社区
产品应用8

字节发布通用游戏智能体!5000亿token训练,用鼠标键盘吊打GPT-5!

字节seed团队打造通用游戏智能体Game-TARS,基于键盘—鼠标动作空间训练,用超5000亿标注级数据,结合新技术提升扩展性和泛化性,在多类游戏任务中表现超越GPT - 5等模型。

量子位
新闻资讯8

“硬核芯科技园”圆满收官:汇聚中国芯硬核力,勾勒自主创新全景图

2025年9月10 - 12日,SEMI - e深圳国际半导体展举行,“硬核芯科技园”特色展区汇聚10家优秀企业,展示全链条创新成果。底层技术突围,企业展示关键芯片与元件;产业生态共建,保障供应链稳定。

芯师爷
开源动态8

8.6K star!!实时翻译、离线使用、支持50+语言,这个免费开源项目牛皮!

介绍开源项目RTranslator,它为Android平台实时翻译应用,用Meta的NLLB模型与OpenAI Whisper技术,本地处理保障质与隐私。有双模式对话等功能,在Github获8.6K star。

开源先锋
算法论文8

国产多模态Agent拿下医学分割SOTA!不用改模型、不加token | 浙大&上海AI Lab

现有医学多模态大模型在分割生物医学图像时存在瓶颈,浙大蔡钰祥教授、上海AI Lab江彦开等人提出IBISAgent框架,将分割定义为多步视觉决策过程,实验显示其在多数据集上大幅领先对比方法。

量子位
新闻资讯7

这家初创要为AI重绘地球:可身定制卫星星座,对接太空计算

西班牙初创公司 Xoople 完成 1.3 亿美元 B 轮融资,欲构建“地球记录系统”。它先铺管道、再造源头,与 L3Harris 合作开发天基测系统,虽面临竞争与隐忧,但也顺应太空计算融合趋势。

DeepTech深科技
新闻资讯3

烧掉数万亿 Token、数百 Agent 连跑一周:Cursor“从零写浏览器”,结果是拼装人类代码?

Cursor CEO分享用GPT - 5.2让系统运行一周从零构建浏览器的实验,产出大代码。但实验引发质疑,项目编译难通过,代码还依赖成熟库,像是拼装人类代码,且实验成本高。

InfoQ
开源动态8

全新稀疏注意力优化!腾讯最新超轻视频生成模型HunyuanVideo 1.5核心技术解密

腾讯混元大模型团队发布并开源轻级视频生成模型HunyuanVideo 1.5,参数8.3B,支持5 - 10秒高清视频生成。它通过多层次技术创新,在生成效果、性能与尺寸上实现平衡,还具备多种核心能力。

量子位
算法论文8

何恺明团队重磅新作:去掉VAE,无需Tokenizer,纯Transformer预测数据比预测噪声更高效

麻省理工学院何恺明团队发布颠覆性研究,指出主流扩散生成模型未做好去噪工作,回归洁净数据预测才是高维像素生成正解。团队设计实验验证观点,提出极简架构JiT,展现优越性能与扩展能力。

AIGC开放社区