「预训练研究」共找到 3724 篇相关文章
从「对口型」到「会表演」，刚进化的可灵AI数字人，技术公开了
快手可灵团队让数字人从「对口型」进化到「会表演」，全新数字人功能在可灵平台公测。技术报告Kling - Avatar解析背后技术路径，设计多模态两阶段生成框架，实验显示其在多方面领先竞品。
重磅！Thinking Machines开山之作：大模型输出随机的根本原因被揪出，并开源终结方案
由OpenAI前CTO创办的Thinking Machines宣布上线技术研究博客，开篇文章揪出LLM输出随机的根本原因是负载及批次大小的非确定性变化，并给出系统性解法，还开源方案。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
Anthropic承认模型降智后仍放任其偷懒？Claude Code用户信任崩塌中
此前大模型厂商未正面承认‘降智’，OpenAI 研究科学家称是心理错觉。但 Anthropic 公开承认旗下 Claude Opus 4.1 和 Opus 4 质量降级，然而问题未解决，Claude Code 用户信任崩塌，纷纷转向 GPT - 5。
打破瓶颈，让RAG学会思考：中科大、智源等发布推理检索框架BGE-Reasoner
人工智能浪潮下，推理密集型信息检索是RAG和AI Agent技术发展瓶颈。中科大、智源等机构联合研发推理检索框架BGE - Reasoner，在BRIGHT基准测试中刷新纪录，还将开放相关代码等推动研究。
杭州跑出的AI独角兽，突围大模型的“第二战场” | 甲子光年
2025年AI行业有转变，算力堆叠对大语言模型性能提升放缓，空间智能成“第二战场”。谷歌、英伟达等巨头纷纷布局，群核科技作为杭州“变量”，发布业界首个3D室内空间大模型，构建数据飞轮，技术有望落地多领域。
全网爆火的DeepSeek「UE8M0 FP8」，原来英伟达早已支持
NVIDIA PTX ISA文档早有.ue8m0数据类型，UE8M0 fp8并非DeepSeek独创。从PTX 8.0/9.0起，NVIDIA在ISA级别支持.ue8m0，H100、RTX 40系列等都有相关支持，DeepSeek是将其提升到模型层面。
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
SceneGen: 单图像驱动的多资产3D 场景生成
上海交通大学提出SceneGen框架，可从单张场景图像及其对应目标掩码中，同时生成带有几何结构与纹理的多个3D资产。它一次前向传播即可完成生成，在效率与稳健性上优于现有方法，虽有局限但应用潜力大。
MLLM集体翻车，缺乏婴儿级常识！业界首个核心认知基准发布，LeCun转赞
当前大模型在12项核心认知上普遍落后人类10 - 30%，越大的模型越易靠「背答案」糊弄。团队公开首个系统评测框架和题库，用Concept Hacking方法识破模型真假理解，指出模型存在核心知识缺失等问题。