「大模型预训练」共找到 9676 篇相关文章
田渊栋离职Meta，最后一篇论文？
离职Meta后，田渊栋团队论文被NeurIPS 2025录用。研究提出「三门理论」，发现RLVR微调在小权重发力，不破坏模型结构，还绘制出RLVR训练动态的「参数层面全景图」。
Anthropic 发文称自家 Claude 已经开智，网友：为了上市，不择手段？
Anthropic发布Claude内部机制新研究，介绍J-space和J-lens，称可读取模型未输出的内部概念。此研究在训练、评测和部署有潜在价值，但叙事引发争议，网友质疑是否过度包装。
OpenAI解释LLM为什么会有幻觉
OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。
GraphRAG，这次被G-Reasoner统一了
大语言模型在知识密集型任务中存在局限，GraphRAG 也有迁移难题。G - Reasoner 提出统一框架，含 QuadGraph、GFM、LLM 增强推理模块，在性能、泛化、效率上全面领先现有方法。
性能飙升42%！人大&字节开源10万级 SWE数据集 Scale-SWE
近期，人大和字节开源10万级软件工程数据集Scale - SWE，用首创工作流从GitHub构建真实数据。基于此微调的Qwen3 - 30A3B - Instruct模型测试表现佳，其数据相比合成数据优势明显。
深度拆解 Muse Glimmer，24GB 显存跑 30B Agent，Meta 到底做了什么？
昨天，Meta发布约30B参数的多模态Agent模型Muse Glimmer，支持128K级上下文。它采用Apache 2.0许可证开放，有量化版本等。其技术设计围绕显存、上下文管理等问题展开，在多方面做了取舍。
深度｜AI开始接管物理世界，谁来掌握新的入口？
本文为深度行业分析，围绕Anthropic推出的模型硬件标准MHS展开，探讨AI从虚拟屏幕切入真实物理世界、接入实验设备的产业进程，梳理核心挑战与未来竞争格局。
硅谷惊变：12万张H100的挽歌
这是虚构故事，Meta用12万张英伟达H100训练“LLaMA 4 Maverick”，却被中国杭州DeepSeek团队用2000张GPU打败。项目失败成丑闻，扎克伯格成立实验室四处收购遇冷，新负责人管理混乱，实验室乌烟瘴气。
北大校友，OpenAI前安全副总裁Lilian Weng最新万字博客文章：Why We Think
北大校友Lilian Weng新发布万字博文《Why We Think》，系统梳理让AI模型‘多想一会儿’的前沿方法及逻辑，深入剖析多种机制突破AI性能瓶颈的理论、技术与进展，还提出一系列待解决的开放性问题。
轮到谷歌踩油门了！Gemini 4泄漏、TPU上天、工程师因「太快」辞职
本文报道谷歌近期AI业务最新动态，涵盖Gemini 4大模型研发进展、TPU上太空测试计划，以及工程师因AI发展太快辞职事件，展现谷歌AI全面加速的现状。