搜索：模型训练与微调

「模型训练与微调」共找到 8150 篇相关文章

OpenAI深夜数连发：o3降价80%，o3-pro上线，奥特曼最后一次手发长文，开源模型却延期了……

OpenAI昨夜动作不断，o3模型降价80%，o3 - pro发布，开源模型延期。Sam Altman发长文《温和奇点》，预测AI发展时间线。o3价格虽降但使用成本仍有差异，o3 - pro性能强却推理慢，开源延期引发猜测。

谷歌发布世界模型原型产品 Project Genie，只需一句话或图就能一键生成可玩、可交互实时虚拟世界。它借助 Genie 3 等构建，解决了早期世界模型多短板，虽现处实验阶段，但已引发热议，应用潜力大。

原力灵机推出首个具身原生模型产品DM0，仅2.4B参数，却能支撑实时处理画面与真机进化。其合伙人周而进称要走具身原生路线，还介绍了数据采集、模型训练等多方面内容及公司发展规划。

近日，斯坦福、英伟达、Together AI 等联合开源全新测试时新范式 TTT - Discover，在测试阶段用强化学习微调模型，以刷出 single best 结果，用几百美元就刷新诸多领域 SOTA。

文本嵌入和重排序是NLP和信息检索关键组件。Qwen3 Embedding、Qwen3 Rerank模型基于Qwen3基础模型构建，有三种参数尺寸。文章介绍其架构、训练方案，还给出实战代码。

谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。

快手与清华合作团队发现大语言模型结果监督强化学习中，重要性采样机制“失灵”，存在权重错配现象。为此提出算法ASPO，在多基准测试中展现优势，训练更稳定。

OpenAI宣布GPT - 4.1全系列模型支持DPO微调，可让AI通过对比回答学会用户偏好。介绍了DPO原理、适用模型、数据格式、创建任务方法等，还提及开发者反应与技术要点。

Redis 之父 Antirez 分享研发经历，认为人类程序员比大模型出色，人类能打破常规想出更有效解法。他在修复 Redis 复杂 bug 时，与 Gemini 2.5 PRO 交流，凸显人类创造力优势。开发者看法不一，AI 虽成工具但缺创造力。