「预训练时代」共找到 3294 篇相关文章
何恺明新身份：谷歌DeepMind杰出科学家
网友爆料何恺明加入谷歌，经确认他以兼职形式成为谷歌DeepMind杰出科学家。可根据其近期研究推测研究方向，他还探讨生成模型能否走向端到端。何恺明履历辉煌，成果众多。
OmniAvatar震撼开源！阿里夸克开源全新音频驱动角色模型
音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
高考数学斩获139分！小米7B模型比肩Qwen3-235B、OpenAI o3
2025高考落下帷幕，人工智能领域多家大模型挑战数学卷。小米7B参数的MiMo - VL模型考139分，比肩Qwen3 - 235B、OpenAI o3，还在多方面表现出色，技术报告等已开源。
从高考到实战，豆包大模型交卷了
火山引擎原动力大会 Force 2025 发布豆包大模型 1.6 等多项新产品。豆包 1.6 性能提升，在多方面表现出色；Seedance 1.0 Pro 视频生成能力强。大会强调‘AI 云原生’，还推出多个套件和技术进展。
Ilya Sutskever多伦多大学最新演讲：即将上大学或正在上大学的强烈建议围观
2025年6月6日，ChatGPT之父Ilya Sutskever重返多伦多大学获荣誉理学博士学位并演讲。他分享人生建议，指出AI定义了“最不寻常时代”，建议学生体验使用AI，称其是人类最大挑战与机遇。
万帧？单卡！智源研究院开源轻量级超长视频理解模型Video-XL-2
长视频理解是多模态大模型关键能力，当前开源模型有短板。智源研究院联合发布 Video-XL-2，多维度优化长视频理解能力，还设计效率优化策略，在主流评测基准表现出色，有广泛应用潜力。
360开源高质量图文对齐数据集！收纳1200万张图像+1000万组细粒度负样本，让模型告别“图文不符”
360人工智能研究团队的冷大炜博士团队开源FineHARD高质量图文对齐数据集，包含1200万张图像、4000万个边界框及对应描述、1000万组细粒度难负样本，能提升模型图文对齐能力，还介绍了构建方法、分析及应用前景。
大模型推理的“左右脑”革命！华为盘古Embedded凭昇腾之力，让快慢思考合二为一
传统大模型推理面临长链条深度思考与低时延反馈的矛盾，华为盘古团队提出盘古Embedded模型。基于昇腾NPU，其采用双系统认知架构，集成“快思考”与“慢思考”双推理模式，实现推理效率与精度协同提升。
中学生就能看懂：从零开始理解LLM内部原理【九】｜ 层归一化：神经网络的稳定器
本文是系列文章第九篇，介绍了神经网络中的层归一化。先回顾标准差、标准分概念，指出其可使差异可控稳定。接着说明层归一化将原思想用在神经网络，还加入可学习参数，最后总结其作用与应用位置。