「省Token策略」共找到 1569 篇相关文章
刚刚,OpenAI开放GPT-4.1,100万上下文、代码能力超强
今天凌晨1点30,OpenAI宣布开放GPT - 4.1,可在ChatGPT中使用。它针对编码任务,支持100万tokens上下文,在多项测试中表现优于前代,价格更优,不同用户将陆续获得使用权限。
Anthropic再次挑衅AI输出范式, 谁才是标准?
Anthropic Claude Code团队工程师称HTML应成大模型输出新标准。文章探讨使用场景,如考虑为多看一眼付多少token、内容用途、交流对象等,建议按需选格式,HTML是可视化加班费。
凭借一条私信,我如何入职OpenAI
OpenAI客户总监Sophie Rose无内推、背景,靠一条陌生人私信,五周入职OpenAI。她主动出击联系负责人,还建议有策略展示自我,如在平台分享见解,能增加获职机会。
手残党跪了,Pi 0.6机器人15分钟学会拧螺丝,能进厂边干边学了
具身智能领域 Physical Intelligence 公布新进展,借助「RL token」法,让机器人短时间掌握精细操作。该方法给 VLA 加「外挂」,使机器人进化快、学习效率高,在多项任务测试中表现出色。
Anthropic:上下文工程在AI Agents的正确打开方式!
在‘提示工程’后,‘上下文工程’成焦点。它是提示工程延伸,因信息过多模型会‘失焦’,上下文是稀缺资源。文章介绍高效上下文‘解剖学’、运行时检索策略、长周期任务应对方法等。
加速200倍,单显卡1.8秒生成5秒高清视频!清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略,在多模型测试中加速100 - 205倍,且画质几乎无损。
为什么软件工程治理很重要:降低风险但不拖累速度
Sarah Wells 在哥本哈根 Goto 会议称,软件工程治理助团队决策、支持价值交付。糟糕治理会拖慢进度、增加成本。技术策略和组织技术雷达可辅助决策,还能从 DORA 能力学治理。
全美60万岗人类出局,三年暴省126亿!机器人大军入厂
亚马逊一边宣布扩招25万人,一边计划让机器人取代超60万个岗位,到2033年实现75%运营自动化。此举三年可省126亿美元,但会使人类劳动价值边缘化,自动化趋势或蔓延各行业。
一个月重写三次代码库、三个月就换套写法!吴恩达:AI创业拼的是速度,代码不重要
吴恩达在 Y Combinator 演讲分享创业心得,指出执行速度是创业成败关键,创业者最大机会在应用层,介绍提速方法,还回应 AGI 炒作、token 成本等问题。
时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8
在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。