「预训练语义编码器」共找到 2315 篇相关文章
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
图像界的DeepSeek！12B参数对标GPT-4o，5秒出图，消费级硬件就能玩转编辑生成
Black Forest Labs开源旗舰图像模型FLUX.1 Kontext[dev]，专为图像编辑打造，能在消费级芯片运行。12B参数少、推理快，性能媲美闭源模型。有诸多特点，经优化训练，在KontextBench基准表现优。
开源Agent模型榜第一名，现在是阿里通义DeepResearch
阿里开源首个深度研究Agent模型通义DeepResearch，在多权威评测集上超越多个Agent模型。它采用多阶段数据策略，有两种推理模式，革新训练流程，已赋能高德出行Agent和通义法睿等应用，且模型等均已开源。
大模型是不是到顶了？瓶颈到底在哪
文章探讨大模型是否到顶，指出‘到顶’争论分三个问题，靠堆大模型提升能力之路变平，受数据和成本约束。但大模型还有后训练和推理时计算两个发展方向，未来进步或来自更会用算力。
一副手套，干翻硅谷炫技派！中国队杀入战场，狂卷100万小时数据
硅谷具身智能玩家为数据发愁，中国灵初智能另辟蹊径，用数据手套采集工人操作数据，成本低且数据泛化性强。其专注物流细分场景，2026年收敛资源做深现有场景，目标推100万小时数据训练模型。
DeepSeek V4即将发布？先读懂梁文峰这份86页的技术底牌
据报道，DeepSeek计划2月中旬发布V4，此前将R1论文从22页扩充到86页。新增内容涵盖训练细节、成本、数据配方等，还公开失败案例、基础设施和安全报告，或为V4铺路并回应质疑。
上交、清华、微软、上海AI Lab等联合发布数据分析智能体综述，LLM化身数据分析师，让数据自己「说话」
传统数据分析方法耦合度高、扩展性差，大语言模型与智能体让数据分析迈向“语义理解”。上交、清华等机构联合撰写综述，回顾演进，提出新范式，总结关键技术、趋势及挑战，推动通用数据分析智能体发展。
The Batch: 865 | 机器人外科医生的切割与夹闭
约翰·霍普金斯大学等团队开发Hierarchical Surgical Robot Transformer（SRT - H），结合两个transformer模型，通过模仿学习训练，用达芬奇机器人完成胆囊切除关键步骤。虽在体外组织测试表现好，但应对人体手术仍有挑战。
监督学习也能从错误中学习反思？！清华英伟达联合提出隐式负向策略爆炸提升数学能力
清华大学与英伟达、斯坦福联合提出监督学习方案NFT，在RFT算法基础上构造“隐式负向模型”利用负向数据训练。该策略弥合监督与强化学习差距，其损失函数梯度和GRPO在On - Policy条件下等价。
Speech-02语音模型登顶国际榜单：完美复刻声音，同事听后难辨真伪
MiniMax的Speech-02语音模型登顶国际榜单，超越OpenAI等海外模型。它引入可学习说话人编码器，有高扩展性，还能结合文本描述生成音色。测试显示其音色丰富、读音准、支持多语种，声音复刻逼真。