「预训练时代」共找到 3294 篇相关文章
MeshCoder：以大语言模型驱动，从点云到可编辑结构化物体代码的革新
生成式AI在三维空间面临挑战，传统3D生成成果粗糙难编辑。团队推出MeshCoder，将三维输入翻译成结构化代码，有分部件生成等优势。介绍其实现路径、实验性能，也指出局限并展望未来。
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
Hugging Face 推出 GOLD：让不同模型家族也能做知识蒸馏
Hugging Face研究团队提出GOLD方法，解决了知识蒸馏中老师和学生模型需用同一套分词器的痛点，让不同模型家族间也能做知识蒸馏。它通过三步解决跨分词器蒸馏，实验效果良好，已集成到TRL库。
ICCV 2025 | 港科、牛津大学发布AlignGuard，文图生成模型可规模化安全对齐框架
随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。
一个模型装下整个物种树！伯克利GPN-Star斩获基因预测双料冠军
加州大学伯克利分校等机构推出基因组语言模型GPN - Star，可将全基因组比对和物种树信息装进大模型。它克服传统GLMs短板，实现三点升级，在多基准测试表现出色，是强大的全基因组变异解读框架。
NeurIPS Spotlight｜运动遮挡都不怕，0先验、一段视频精准预测相机参数
论文一作李放等为解决传统方法在动态场景预测相机参数的难题，提出 ROS - Cam 方法，涵盖补丁式跟踪滤波器、异常值感知联合优化、双阶段训练策略，代码即将开源。
他，37岁华裔，靠AI成为福布斯400最年轻亿万富翁，身价180亿美金！
37岁华裔Edwin Chen成《福布斯400》最年轻亿万富翁，身价180亿美元。他拒绝VC融资，用积蓄打造估值300亿美元的AI数据标注公司Surge，希望让AI学会「人类的复杂性」，还担忧AI模型被错误优化。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
Kimi开源又放大招！20秒更新万亿参数的中间件来了
Kimi开源出新中间件checkpoint - engine，让Kimi K2万亿模型参数进入“秒更时代”。它能支持一次性发送更新权重，实现点对点动态更新，在K2中发挥重要作用，还可抵御单点故障。
阿里开源Mobile-Agent-v3：多模态GUI智能体，实现跨平台自动化突破！
全新自动化时代，GUI智能体融入日常。阿里巴巴通义实验室推出GUI - Owl与Mobile - Agent - v3，实现跨平台自动化突破。文章解析其发展历程、技术创新，且项目开源，商业化潜力引关注。