精细化Token管理」共找到 1205 篇相关文章

产品应用7

关于Claude Skills,我给你写了份82页的白皮书

作者关注Claude Skills功能已久,使用后感受是它让Claude学会按需加载。还解析了Skills、MCP、Sub - agents区别,指出有人认为Skills比MCP更重要,最后介绍82页白皮书内容及获取方式。

花叔
新闻资讯7

7000亿豪赌,扎克伯格买了众叛亲离

为拿下AI船票,扎克伯格让Meta猛踩油门,投入数百亿参与竞赛,还多次重组AI部门。但他的强硬作风使Meta内部混乱,老将出走,新人不满。Meta虽有新模型计划,可商业模式不明,还面临伦理风险。

新智元
产品应用8

抛弃“级联”架构!快手OneRec用大模型重构推荐系统,服务成本降至1/10

传统级联式推荐架构有瓶颈,快手用OneRec重构推荐链路,服务成本降至1/10。文中介绍OneRec架构、Tokenizer方案、强化学习奖励设计,还提及优化及多模态联合训练方向。

InfoQ
算法论文8

传统训练效率很低?我们靠 “给模型降噪” 重新审视长上下文建模难题

文章指出长上下文模型处理长文本时易受噪声干扰,提出新评估指标IG分数和“上下文去噪训练(CDT)”方法。实验表明CDT优于现有策略,经其训练的开源模型在长上下文任务中性能媲美GPT - 4o。

深度学习自然语言处理
新闻资讯7

PagerDuty 的 Kafka 故障导致数千家公司无法收到报警

2025年8月28日,事件管理平台PagerDuty遭遇重大服务中断,超9小时服务降级。原因是新功能缺陷使Kafka集群使用量超系统容量,引发连锁反应。公司列出改进承诺,社区强调系统要有冗余备份。

InfoQ
算法论文8

VerlTool重塑Agentic RL的训练生态

当前LLM像‘缸中的大脑’,缺乏与外界互动能力。新范式ARLT兴起,但构建训练框架面临诸多挑战。VerlTool作为统一、模块化、高效的开源框架应运而生,解决难题,在多任务实验表现出色,推动LLM向智能体转变。

深度学习自然语言处理
新闻资讯7

任期超越乔布斯,库克给苹果留下的「三本账」

今年8月库克在全员会回应外界质疑,强调AI革命重要性。他从会计大师转变为引领者,任期超乔布斯。库克算对「市值账」,却难清「人才账」,其创新理念在AI时代面临挑战。

芯师爷
算法论文7

The Batch: 863 |推理提高了碳排放

新研究量化推理模型时代提供更优答案的环境成本,研究人员估算14个开源权重的大模型碳排放,发现推理与排放存在权衡关系,还指出战略性部署可降低排放。

DeeplearningAI
开源动态7

阿里达摩院开源多模态医学大模型—灵枢

大模型在医疗领域应用有医疗知识覆盖不足、幻觉风险高、推理能力欠缺三大难题。阿里达摩院开源统一多模态医学大模型灵枢,介绍其数据体系、清洗流程及四阶段强化训练方法。

AIGC开放社区
算法论文8

DeepSeek推理最高提速6倍!开源研究:加装「思维进度条」,计算量减少30%

特拉维夫大学团队开发新方法,给LLM推理任务装进度条,控制推理深度和速度。提出“思维进度向量”TPV预测推理位置,干预TPV可“超频”“降频”,模型已在GitHub开源。

量子位