Token向量化」共找到 1436 篇相关文章

开源动态8

NeurIPS 2025 | 中科大、港中深、通义千问联合发布CoRT:仅30个样本教会大模型高效推理,token消耗降低50%

大型推理模型在精确数学计算上存在问题,如认知冲突、行为低效、数据稀缺。中科大、港中深、通义千问联合推出CoRT框架,用创新数据合成与多阶段训练,提升模型推理能力和效率,成果已开源。

机器之心
推荐文章8

每个token都在亏钱,但ARR9个月破亿!从烧光现金、裁掉一半员工到反杀Cursor,Replit CEO曝一年内如何极限翻盘

2024年初到2025年9个月内,Replit的ARR从不到1000万美元突破1亿美元。其增长基于系统性战略,从基础设施整合发力。创始人分享发展历程,还谈到AI编程趋势及产品边界等内容。

AI前线
新闻资讯7

GPT-5.2来了…

OpenAI推出GPT - 5.2系列,是适合专业知识工作的模型。它在专业工作表现、编程能力、可靠性与安全性等多方面有提升,定价公布,已付费用户逐步推出,此次更新重在夯实基础。

AI工程化
新闻资讯8

2027年至少营收1万亿美元!龙虾就是新操作系统丨黄仁勋GTC万字实录

2026年3月16日英伟达GTC大会上,黄仁勋阐述英伟达从芯片公司AI基础设施和工厂公司的蜕变,给出强劲业绩预期,介绍“Token工厂经济学”,还展示新系统、技术,提及AI软件和生态革命等。

芯师爷
新闻资讯8

72小时狂揽50万美金GMV,AI短剧出海真正改变了什么?|甲子光年

2026年AI短剧与一人公司碰撞出新产业形态,海外市场规模将突破6.5亿美元。YourChannel平台创新分发与分账机制,让创作者快速变现,其模式与传统平台差异大,未来内容产业竞争重心或token消耗权转移。

甲子光年
算法论文8

UserBench 与 UserRL 带来的交互智能范式转

当下大模型在与用户交互时存在不足,来自UIUC与Salesforce的UserBench和UserRL两篇新作,将‘用户价值’量化,把‘可测的交互’转化为‘可训练的策略’,从评测和训练层面推动模型‘懂用户’转变。

深度学习自然语言处理
新闻资讯7

中文互联网“build in public”的新实验,为什么会是AMA?

文章探讨小红书上AMA形式爆火的原因。它与Reddit不同,得益于小红书平权分发、垂直推荐、轻量化设计等特点。AI圈因开源精神成首批用户,AMA为双边提供价值,还让小红书专业领域拓展。

乱翻书
新闻资讯7

DeepSeek刚提到FP8,英伟达就把FP4精度推预训练,更快、更便宜

DeepSeek提及针对国产芯片的FP8量化设计,引发对大模型量化策略关注。不久后英伟达发力低精度量化,将NVFP4策略拓展到预训练阶段,其方案能解决核心挑战,实验证明NVFP4在大规模训练中可行。

机器之心
算法论文8

挑战 1 比特!ETH Zürich 秦浩桐:如何把大模型「塞进」小设备?| IJCAI 2026

IJCAI 2026大会上,秦浩桐给出创新解法,挑战无需重训的“后训练量化”极限,将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒,还指出极低比特量化的三大挑战。

AI科技评论
新闻资讯8

9位顶级研究员连讲3晚,华为盘古大模型底层研究大揭秘

华为诺亚方舟实验室成果颇丰,4月开发千亿级通用语言大模型Pangu Ultra,5月推出稀疏大语言模型Pangu Ultra MoE。5月28 - 30日,机器之心联合举办分享会,9位研究员揭秘量化、剪枝等关键技术突破。

机器之心