「预训练数据精炼」共找到 3922 篇相关文章
硅谷今日最热具身模型！不用后训练，看一遍就学会
北美具身初创Skild AI发布全新机器人基础模型S1，主打上下文学习，能看示范视频完成复杂操作。在未见过任务上成功率达66%，远高于传统方法。其发展或让开发机器人技能像给ChatGPT写Prompt。
以为Anthropic全是科学家？数据告诉你，他们要的是基础设施老兵
Fonzi AI人才工程主管Seb分析1680份Anthropic工程师简历，发现其核心人才是资深基础设施建设者。工程团队18个月从零膨胀，Google是最大人才池，博士仅占13.7%，头衔扁平化。
前 DeepMind 研究员反思：评测，而非算力或数据，才是下一阶段的瓶颈
前 Google DeepMind 高级研究员 Lun Wang 在技术长文中指出，当前主流评测体系滞后，静态基准会“安静失效”。作者主张引入序参量，呼吁构建自演进评测，还为一线工程师提供了研发建议。
字节跳动：Apache Doris + AI 一站式融合数据引擎的探索与实践
本文整理自字节跳动 DataMind 负责人演讲，介绍了基于 Apache Doris 打造的一站式引擎 DataMind。它集成 Hybrid Search、AI Function、GraphRAG 等能力，部分成果已贡献开源，还给出企业级 AI 问数落地方案。
DeepSeek开源MoE新利器LPLB：基于线性规划，专攻训练动态负载不平衡
DeepSeek在GitHub开源LPLB，这是基于线性规划的并行负载均衡器，用于优化MoE模型专家并行工作负载分配。它通过动态重排序、副本构建等机制实现动态负载均衡，支持多种拓扑结构，但也存在成本估算等局限性。
Karpathy「疯狂之作」：100美元、4小时，就能训练你自己的「小型GPT」
AI传奇人物、前特斯拉AI总监Karpathy推出开源项目「nanochat」，以不到8000行代码复现ChatGPT全流程，只需一台GPU、约4小时、成本仅百美元。项目在GitHub上线不到12小时获4.2k星标。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
数学推理热潮下的冷思考！如何训练真正"全能"的推理模型？
论文评估20余个开源推理模型在多领域表现，发现多数模型数学成功难迁移。揭示微调方法（RL vs SFT）决定能力泛化，SFT像‘填鸭’，RL似‘思维健身’，为构建通用推理智能体提供新路径。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
全球首款！Claude引发的数据恐慌，被这家中国黑马补上了
威努特作为网络安全公司跨界推出AI桌面助手WinClaw。它能读懂各类文件并进行向量化处理，有多种检索方式，还能跨文档归纳、关系推理。具备安全的三层防护，支持双平台，注册即可用。