「Token 工程」共找到 1340 篇相关文章
谷歌新架构突破Transformer超长上下文瓶颈!Hinton灵魂拷问:后悔Open吗?
谷歌在NeurIPS 2025发布两项大模型新架构研究,通过‘测试时训练’机制,推理阶段可将上下文窗口扩展至200万token。新成果Titans和MIRAS结合RNN速度与Transformer性能,突破超长上下文瓶颈。
硅谷资深工程师:不止是 AI 产品,Coding 也需要好的 taste
硅谷资深工程师sean goedecke指出,技术品味与能力不同,其核心是为项目选适配工程价值观的能力。文章给出判断技术品味的方向,还阐述了好坏品味的识别方法及培养良好品味的建议。
72小时狂揽50万美金GMV,AI短剧出海真正改变了什么?|甲子光年
2026年AI短剧与一人公司碰撞出新产业形态,海外市场规模将突破6.5亿美元。YourChannel平台创新分发与分账机制,让创作者快速变现,其模式与传统平台差异大,未来内容产业竞争重心或向token消耗权转移。
开源模型两个月内杀死比赛
过去60天,Vercel AI Gateway调用数据显示,开源模型Token调用份额从28%涨至62%,反超闭源模型。英伟达60亿美元入局扶持,闭源虽推新降价仍失领先,开源走向大规模应用。
Claude Opus 5 发布,比 Fable 5 强,仅一半价格
Claude Opus 5发布,官方称其以一半价格提供接近Fable 5的智能。跑分显示它多数项目超Fable 5,ARC - AGI - 3成绩突出,还更省token,是Anthropic迄今对齐度最高的模型。
大模型最后一层竟是推理累赘?绕开对齐税,奥数准确率暴涨 22.4%!
Qwen团队等最新研究打破传统认知,揭示‘对齐税’现象。提出置信解码策略,在多架构、评测集上表现出色,能绕过‘对齐税’,提升推理准确率,且工程开销低,为大模型发展提供新思路。
字节会师何恺明!开源连续扩散语言模型Cola DLM
字节会师何恺明,开源连续扩散语言模型Cola DLM,释出论文、代码等。该模型跳出离散token束缚,把生成过程交给连续空间,在实验中展现出稳定scaling趋势,其动机是表征而非diffusion。
GAG:超越RAG,无需检索的私有知识注入新范式
在高价值私有场景,主流大模型注入知识的路线各有硬伤。中科院和360AI联合团队提出GAG方案,无需检索、固定底座、单Token、即插即用,实验显示效果佳,也指出跨域组合等局限。
ICML 2025 | 如何在合成文本数据时避免模型崩溃?
随着生成式AI发展,合成数据成大模型训练重要部分,但可能引发“模型崩溃”。ICML 2025会议上,上交大等团队剖析此问题,提出Token - Level Editing策略,避免模型崩溃,实验验证了其有效性。
从 Rule、Spec 到 Harness:AI Coding 的渐进式建设路径
作者分享帮团队落地AI Coding经验,指出试点易但推广难,瓶颈在接收端。介绍从Rule、Spec、Loop到Harness的渐进式建设路径,各层前后相依,逐层收紧控制面,助AI在工程体系稳定交付。