「大模型预训练」共找到 9494 篇相关文章
老牌Transformer杀手在ICLR悄然更新：Mamba-3三大改进趋近设计完全体
Transformer架构仍是AI主流，Mamba作为挑战者影响力大。Mamba-3在ICLR 2026盲审，有梯形离散化、复数化状态空间模型、多输入多输出状态空间模型三大改进，实证表现佳，适合多场景。
大模型外挂“三维物体知识库”来了，大幅增强机器人长程自主操作能力
现有视觉语言大模型（VLM）能让机器人理解指令，但在操作中缺三维空间知识。近日研究提出 RAM 框架，它像“三维物体知识库”，为 VLM 补充空间知识，经 14 项实验验证其操作能力，还探索了在铰接与柔性物体操作中的应用。
清华刘知远团队：高质量LLM训练数据获取新方法！成本降90%，性能大提升
清华刘知远团队论文提出全新数据筛选方案，解决传统数据筛选验证慢、主观性强问题。发明‘半成品加工法’降成本，用fastText筛数据，筛出Ultra - FineWeb数据集，提升模型性能，还计划拓展到专业领域。
模型测试不再跳来跳去，VS Code + Hugging Face = 真香
Hugging Face 发布新功能，让开发者在 VS Code 的 GitHub Copilot Chat 中直接接入 Inference Providers，可调用 Kimi K2 等开源大模型测试，无需频繁切换平台。该功能有统一 API 等优势，定价门槛低。
腾讯开源最强3D生成模型，消费级显卡就能跑 | CVPR
在CVPR上，腾讯混元3D 2.1模型宣布开源。相比前一代，它实现几何与纹理双重优化，纹理贴面提升大，达当前开源3D模型SOTA水平。全链路开源，适配消费级显卡，Hugging Face下载量超180万。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
AAAI 2025 Oral | 火山引擎多媒体实验室提出VQ-Insight，AIGC视频画质理解大模型
火山引擎多媒体实验室与北大合作论文《VQ-Insight: Teaching VLMs for AI-Generated Video Quality Understanding via Progressive Visual Reinforcement Learning》入选AAAI 2026口头汇报。VQ - Insight用渐进式框架处理AIGC视频画质理解，实验表现卓越。
拒稿警告，靠大模型「偷摸水论文」被堵死，ICLR最严新规来了
ICLR 2026出台大语言模型使用政策，规范作者与审稿人使用LLM做法，明确需如实披露使用情况并担责，违规将受处罚。其他顶会如NeurIPS、ICML等也有相关规定。
陶哲轩敲警钟！谷歌DeepMind联手五大神殿，用AI向世纪难题宣战
谷歌DeepMind发起「AI赋能数学计划」，集结五大顶尖机构，用最强数学AI探索数学难题。陶哲轩警示要警惕AI滥用风险，还提出论文使用AI的三大建议，如声明使用、讨论风险及明确责任。
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。