「预填充阶段」共找到 1013 篇相关文章
具身智能最“脏”的活,被三个老炮干成了亿元生意|甲子光年
具身智能行业数据是关键卡点,海量数据中能用于训练具身模型的数据稀缺。智域基石提出“数据编译”理念,搭建包含五个环节的管线。该公司已获数千万元天使轮融资,成立4个月订单近亿元,从工业场景切入,规划了三阶段发展路径。
Claude团队用Qwen测试全新训练方法
Anthropic最新研究提出中训练(MSM),在预训练后、后训练前给AI立规矩。实验显示,新增MSM能让通义千问两款32B大模型失准率大幅下降,还能精简微调数据。MSM与对齐微调结合,可提升模型泛化能力。
6.1B激活,三榜开源第一!蚂蚁·安诊儿医疗大模型发布
由浙江省卫生健康信息中心等联合研发的开源医疗语言模型AntAngelMed发布。它基于Ling - flash - 2.0,100B总参数仅激活6.1B达约40B密集模型性能,在多个权威医疗基准测评中居前列,采用三阶段训练流程,高效MoE架构。
Gemini 3.5 Pro绝密泄露,前端赶超Fable 5!
全网被Gemini 3.5 Pro泄露刷屏,传闻7月17日发布。它在前端生成表现出色,一次成型、精准零失误,性能超Fable 5,但在硬核推理等任务上不如Fable 5和GPT - 5.6。谷歌为其重预训练,还准备对标GPT - Image 2的图像模型。
姚顺雨对着唐杰杨植麟林俊旸贴大脸开讲!基模四杰中关村论英雄
清华发起AGI - Next前沿峰会,智谱唐杰、Kimi杨植麟、阿里林俊旸、姚顺雨等大咖齐聚。他们探讨AI发展方向,如唐杰认为Chat阶段结束,应走向做事;杨植麟强调做模型要创造世界观;林俊旸介绍千问进展,还讨论了路线分化、自主学习等话题。
Anthropic让AI先读员工手册再上岗:失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」(MSM)显示,相同训练数据配不同行事原则,模型表现不同。MSM在预训练和对齐微调间加中间阶段,让模型读规范文档理解准则,在特定实验中,将Agent失控率从54%降到7%。
a16z:AI 产品初期用户流失高很正常,M3 留存才是评估 PMF 的关键
a16z研究团队分析数百家AI企业后发现,将衡量用户留存率基准点从M0后移至M3,能更清晰评估PMF和GTM策略。AI产品留存曲线分获客、留存、扩张三阶段,M12/M3比率是预测长期留存关键指标。
David Baker、宋乐等联手创办GenBio AI: 虚拟细胞只是开始,数字有机体才是终局
GenBio AI 在《Nature Medicine》发文,提出构建能模拟生命运行的“数字有机体”(AIDO),还阐述构建路线及应用设想。该公司团队强大,目前已进入 AIDO 构建第二阶段,但面临评估、可解释性等难题。
DeepSeek押注的Harness,被这篇最新综述彻底讲透了
这篇综述讲透了Agent Harness Engineering,CMU等联合提出ETCLOVG七层架构,证明Harness Engineering是LLM Agent工业落地主战场,介绍了其发展阶段、各层架构及作用等。
算力不再稀缺?中国AI芯片供给出现反转
过去中国AI产业常焦虑算力不足,如今国产AI芯片进入集中交付阶段,自给率提升。伯恩斯坦测算,国产化率有望从2023年约17%提至2027年约55%。产业进入新阶段,竞争从“拼参数”转向“拼体系”。