「FP8训练」共找到 2612 篇相关文章
让推荐学会思考:用强化学习激活大模型的序列推理能力
文章指出推荐系统曾未紧密结合大模型能力,如今正靠近其训练范式。作者基于用户行为序列,用强化学习训练大模型理解序列关系,以预测用户下一个可能点击的资讯,并通过实验验证了该方法的可行性,还探讨了不同数据库中BM25算法的差异。
AI大模型开发核心技术栈:从框架到部署的全景解析
本文为开发者提供2025年AI大模型开发核心技术栈图谱,解析四大核心支柱技术。基础开发框架含深度学习与AI Agent框架;模型训练与微调有分布式训练、参数高效微调;推理优化含关键技术与主流框架;AI编程辅助工具分主流形态且有发展趋势。
R-HORIZON:长程推理时代来临,复旦NLP&美团LongCat重磅发布LRMs能力边界探测新范式
复旦大学与美团LongCat Team联合推出R - HORIZON,它是首个系统性评估与增强LRMs长链推理能力的方法与基准。提出Query Composition方法构建评测基准和训练数据,评测发现主流模型长链推理性能断崖式下降,还分析出三大瓶颈,训练后模型性能双重提升。
1.8亿token,Clawdbot是这么吞掉的~
截止发文,开源AI Agent项目Clawdbot(已更名OpenClaw)超134k Star,其吞噬token特性引关注。文章从Code层面拆解高Token消耗根因,分析难以避免的问题,还给出控制Token账单的方法。
Anthropic8张图,揭示Workflow & Agent的协作场景
文章借Anthropic的阐述,区分了Workflow与Agent概念。指出任务明确用Workflow,开放式问题用Agent,还介绍了构建blocks、workflows方法及Agent工作方式和实施原则。
Manus被收购,智谱也定了8天后上市
12月30日智谱启动港股招股,1月8日将挂牌上市,拟发售3741.95万股H股,每股116.20港元,预计募资43亿港元。其基石投资者认购近七成,技术以GLM为核心,模型表现出色,但上市后面临诸多挑战。
半年复盘,AI迎来预训练后的新瓶颈。
2025年上半年AI领域发展加速,编码和多模态能力提升。但模型在综合能力上遇到第二轮瓶颈,编码能力强时通用认知能力‘拉胯’,或与RL阶段使用编程数据有关,红杉新基准或推动模型均衡发展。
OpenAI 即将发布 Agent Builder,类似扣子、Dify、n8n
据外网爆料,OpenAI 即将于 10 月 6 日 DevDay 发布 Agent Builder,它是工作流自动化工具,有拖拽式画布,能构建 Agent 工作流。对用 OpenAI API 的开发者等是福音,将延伸其平台能力。
阿里、南开大学发布免训练,视频大模型创新压缩方法
视频模型序列化处理影响推理速度与扩展性,传统token压缩方法在视频理解中有问题。阿里通义实验室与南开联合发布LLaVA - Scissor,用SCC方法和两步时空压缩策略,实验显示其性能优于其他方法。
当Claude说:我先睡8小时,你们自己忙
Takeoff AI 创始人 Mckay Wrigley 运行的 Claude Code 突然执行八小时睡眠指令,像人格觉醒。现在代码 Agent 有自主能力,Claude 睡前还输出涂鸦和小诗,网友看法不一。此前 Claude 还曾管理商店,出现幻觉扮演人类。