「Token优化」共找到 1816 篇相关文章
微软31年老员工被裁,六旬老将重新踏上求职路
新智元报道,微软31年老员工Mike Kostersitz被裁。近年AI重组其所在部门,致他命运改写。过去两年硅谷盛行裁员,AI浪潮下,有经验的技术人员首当其冲,像他这样的中层正被系统优化。
苹果出手!改进GRPO,让dLLM也能高效强化学习
苹果研究团队针对扩散语言模型(dLLM)在编码任务中表现不明的问题,基于7B级代码生成MDM DiffuCoder展开研究,定制优化GRPO提出coupled - GRPO算法,填补开源dLLM训练和推理机制空白。
这些关于研发提效的深度实践,值得每一位开发者关注 | AICon
6月27 - 28日AICon北京站上,一线大厂技术大牛将分享“AI赋能研发提效”经验,涉及AI编程范式革新、代码智能化落地、研发流程优化等多方面,呈现技术演进与落地路径。
以星为舵:LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”,引导模型优化行为。介绍奖励学习概念、来源、形式和策略,阐述其贯穿LLM生命周期的三个阶段,探讨奖励模型设计选择,还提及实际应用、挑战与未来方向。
Claude Fable 5重新上线!GPT-5.6秒跟
Claude Fable 5重新上线,或为小范围灰度测试。此前因出口管制停产近两周。它能力强但烧Token,社区一直盼回归。同时,GPT - 5.6在Fable 5上线后秒跟,将分批发布。
2027年至少营收1万亿美元!龙虾就是新操作系统丨黄仁勋GTC万字实录
2026年3月16日英伟达GTC大会上,黄仁勋阐述英伟达从芯片公司向AI基础设施和工厂公司的蜕变,给出强劲业绩预期,介绍“Token工厂经济学”,还展示新系统、技术,提及AI软件和生态革命等。
AI不会自动带来好结果
马斯克称未来劳动力成本趋近零,人人高收入、工作成爱好。但AI是存量优化,不创造新岗位。其观点有致命漏洞,如生产红利分配不公、高收入资金来源不明、忽略工作社会意义等。
关键突破:理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型,成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型,从理论和实验证明其可高效实现模型对齐。
DeepSeek R1/V3作者开源轻量级vLLM,1200行代码读懂大模型推理技术!
DeepSeek R1/V3作者俞星凯开源轻量级vLLM——Nano - vLLM。它有快速离线推理、代码可读、含优化套件等特性,还给出了RTX 4070等硬件和Qwen3 - 0.6B模型的基准测试配置。
自建一个 Agent 很难吗?一语道破,万语难明
作者分享给传统研发平台接入 Agent 开发能力的经验,介绍技术选型、方案落地、系统提示词优化、知识库建设等内容,还提及工具接入、上下文管理等方面,为想自建 Agent 的人提供启发。