后训练范式」共找到 4407 篇相关文章

算法论文7

在Think中边搜索边调整的搜索增强Reasoning方法

LLM虽知识丰富,但无法掌握训练数据外的信息,传统检索增强生成方法有缺陷。AutoRefine提出“先筛选,再回答”理念,用强化学习训练,实验显示在多方面碾压传统方法,未来或改变知识密集型任务解决方式。

深度学习自然语言处理
推荐文章8

OpenClaw🦞 Peter Steinberger 专访杂谈

本文是对开源项目OpenClaw创造者Peter Steinberger的专访。他曾创业成功休息三年,回归投身AI。他分享了对AI开发、传统开发流程等看法,还预言大量App将消失,给新人程序员和焦虑者提了建议。

AIGC开放社区
新闻资讯7

390亿美元,全球具身智能第一估值来了!英伟达持续加注中

与OpenAI分道扬镳,Figure C轮融资获超10亿美元承诺资本,投估值达390亿美元。资金将用于扩大人形机器人大批量制造与部署、搭建GPU基础设施、启动数据采集项目,助力具身智能发展。

量子位
算法论文8

Anthropic 最新论文:阻止 AI 叛变的方法

Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”,因模型只学行为未理解原因。提出MSM方法,在训练中加一步,让模型理解规则背价值观,使叛变率大幅降低。

AGI Hunt
新闻资讯8

GPT之父把AI扔回1930年:没见过一行代码,却「发明」了Python!

GPT之父Alec Radford带队发布总参数130亿的大模型「talkie」,其训练数据冻结在1930年,没学过编程却能写Python代码,证明LLM可用旧知识推理。团队续还有升级计划。

新智元
产品应用8

面壁MiniCPM-SALA模型,稀疏-线性注意力,单卡吞吐百万上下文

面壁智能团队提出SALA,基于此训练的MiniCPM-SALA模型,在单张A6000显卡实现百万token超长上下文推理,训练成本降约75%。它结合稀疏与线性注意力,采用混合架构,继承权重降低成本,在长文本处理上优势明显。

AIGC开放社区
推荐文章7

入局AI Infra:程序员必须了解的AI系统设计与挑战知识

文章分享传统台工程师技术栈和方法论如何迁移到AI系统,系统性拆解AI Infra的硬件、软件、训练和推理挑战,如硬件从CPU到GPU、软件依赖深度学习框架,还分析训练和推理面临的问题及解决办法。

腾讯技术工程
新闻资讯7

Manus被收购前最一次访谈:季逸超还不知道Meta即将来敲门

这是Manus被收购前,联合创始人季逸超的访谈。他回顾从猛犸浏览器到Manus的创业路,谈GPT - 3冲击,还评价搭档肖弘。访谈不久,Meta宣布全资收购Manus。

花叔
算法论文8

建模世界偏好:偏好建模中的Scaling Laws

研究首次揭示人类偏好建模遵循Scaling Law,从论坛收集数据在Qwen 2.5模型训练,发现测试损失随训练规模指数增长线性下降。提出建模世界偏好,论文和模型已开源,还探讨了偏好建模可扩展性等问题。

通义千问Qwen
算法论文8

机器人的「GPT时刻」来了?丰田研究院悄悄做了一场最严谨的VLA验证实验

丰田研究院(TRI)团队研究大型行为模型(LBM),在近1700小时机器人数据上训练并大量部署评估。发现LBM性能提升显著,预训练小数据量也能带来增益,预示机器人通用大模型或到来。

机器之心