「预训练研究」共找到 3712 篇相关文章
叛变！OpenAI亲儿子竟然选了Kimi K3
OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。
从多模态大模型中「拆」出音频向量模型
Google 发布原生多模态向量模型 Gemini Embedding 2，推动 Omni Embedding 发展。Jina AI 团队分享从多模态大模型中「拆」出音频向量模型的经验，介绍架构、训练数据，对比四种做法，还提及评测、应用场景及结论。
告别RAG相似匹配！百度Agentic-R为多轮搜索重塑检索器
传统检索增强生成（RAG）有“单跳”局限，多跳推理易出错。人大高瓴与百度提出面向智能搜索的检索器训练框架 Agentic - R，采用双视角打分和双向飞轮模式，在多数据集上表现出色。
罗福莉携小米MiMo-V2-Flash首次亮相：一次在推理与Agent上的下注｜甲子光年
大模型进入新阶段，效率成能力一部分。小米MiMo团队12月16日晚发布并开源MiMo - V2 - Flash，负责人罗福莉首亮相。该模型在推理、编程和智能体场景表现出色，在架构、训练方法等有创新。
普林斯顿大学等Nature揭秘：人类大脑与大语言模型共享同一套语言处理时钟
普林斯顿大学等机构研究发现，大语言模型层级计算序列精确映射人类大脑处理语言的毫秒级时间动态，其与人类大脑理解语言的先后顺序高度一致，为理解大脑和开发神经网络架构开辟途径。
Agentic Coding表现创新高，全新KAT系列模型强势霸榜SWE-Bench
快手 Kwaipilot 团队推出 KAT 系列两款 Agentic Coding 大模型，KAT - Dev - 32B 开源，KAT - Coder 闭源。两模型在 SWE - Bench Verified 表现出色，且在多训练阶段创新优化，有强大代码生成能力和涌现现象。
3D-R1：让AI理解3D世界的下一步
文章介绍新研究3D - R1，它是更通用、具推理能力的三维视觉语言模型，解决了当前3D VLM空间理解不足与推理能力薄弱问题，在多任务测试领先，有广阔应用前景。
揭秘 | 桥梁缺陷检测新突破：模型压缩42%，精度几乎不掉
全国公路桥梁超百万座，传统人工巡检效率低且有安全风险，现有深度学习检测模型体积大、计算量高。研究团队提出LBSD - YOLO网络，通过创新实现轻量化，实验显示模型瘦身但性能不减，有重要应用价值。
当心！腾讯、字节等揭示，OpenClaw有无法修复的安全死结
加州大学等机构团队发布对OpenClaw安全的深度分析报告。它是广泛部署的个人伴侣智能体，运行依赖进化理念，但记忆文件成攻击入口。研究在真实网络测评，发现其安全漏洞大，且难以找到进化与安全的完美平衡。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。