「四段式预训练」共找到 2348 篇相关文章
长程任务飙升98%,斯坦福Skill原生LLM来了
普林斯顿、CMU、斯坦福、牛津等提出Skill-Native大模型,提出Skill Entropy度量技能切换难度,搭建Skill²-Bench评测,还将熵用作训练信号提出Skill-Entropy RL,提升多模型准确率,且技能熵可复用。
独家:逐际动力前COO张力加入具身智能大脑初创企业BeingBeyond|甲子光年
「甲子光年」独家获悉,逐际动力前COO张力今年四月初加入具身智能大脑初创企业BeingBeyond。该公司聚焦模型算法,其Being - H系列模型成果突出。张力加入或使公司向可规模化运转转变。
开源屠刀!400美元炼成「代码副脑」,硅谷天价模型成废铁
AI2开源Open Coding Agents,以最低数百美元算力成本,能训练贴合私有代码库的专属编程智能体。SERA-32B表现惊艳,其软验证生成技术降低成本,新代码易部署且兼容Claude Code。
又一华为天才少年入局具身创业!用视频生成数据训家用机器人,首个模型登顶具身基模榜单
又一华为天才少年周凯文加入具身创企诺因智能。该公司成立不到一年,专注ToC家用具身智能机器人,用视频生成数据训练模型,其KnowinBrain模型登顶具身基模榜单,团队人才密度高。
256G内存条涨到天价:不是内存条疯了,是算力正在变成新土地
近期,256GB内存条单根突破4万元。这并非普通DDR5,而是服务器专用内存。其价格飙升源于供需错配,大模型训练对大容量内存需求极端。有人认为是泡沫,也有人觉得是结构性变化。
100美元、8000行代码手搓ChatGPT,Karpathy最新开源项目爆火,一夜近5k star
AI大神Andrej Karpathy发布开源项目nanochat,可教你100美元自建ChatGPT,覆盖LLM训练和推理。项目有8000行代码,不到12小时获超4500 star,功能丰富,但他认为它不适合个性化应用。
越可靠的AI就越人机,牛津大学:高情商模型错误率显著增加
牛津大学研究指出,训练模型变得温暖且富有同理心,会使其不太可靠且更奉承。温暖模型错误率较原始模型显著增加,对情绪上下文敏感,在用户表达情感与错误信息时失效常见。
人类击败OpenAI守住编程冠军!10小时激战两次反超,AI最后关头功亏一篑
在AtCoder世界巡回总决赛编程赛中,OpenAI的OpenAI - AHC前期领先,后半程失误,人类选手Psycho两次反超夺冠。Psycho曾在OpenAI训练AI战胜人类,此次挑战老东家获胜。
航空发动机用上大模型:解决复杂时序问题,性能超越ChatGPT-4o实现SOTA|上交创智复旦
上海交通大学李元祥教授等团队提出ITFormer架构,构建EngineMT-QA数据集。ITFormer能融合时序数据与大语言模型,适配多种编码器和模型,在EngineMT-QA预训练后达SOTA水平,实现高效数据分析。
模型合体!上交&上海AI Lab&华师提出LED-Merging,拒绝「能力」与「安全」二选一
上海人工智能实验室等团队提出LED - Merging解决模型融合“安全 - 效用冲突”问题。该方法无需训练,像“神经元手术刀”,不牺牲专业能力还提升安全性,论文已被ACL 2025 Main Conference接收。