「预训练数据精炼」共找到 3943 篇相关文章
大模型的第一性原理：（三）信息论篇
本文从信息论角度解读大模型第一性原理。介绍Shannon信息论，提出将其从以BIT为中心转换为以TOKEN为中心解释大模型底层原理，还阐述大模型各阶段信息论原理、定向信息计算方法，对比Granger与Pearl因果。
网民票选AI王者，LMArena一夜变17亿美元独角兽！
LMArena原是校园开源小项目，从2023年起步，如今估值达17亿美元。其Arena模式让网友盲投选AI，Elo评分系统算排名。虽有众包投票易操纵等争议，但已成行业标杆，还将为大厂提供付费评估服务。
老黄All in物理AI！最新GPU性能5倍提升，还砸掉了智驾门槛
英伟达CEO黄仁勋在CES 2026发布AI新品，全力搞AI。推出下一代Rubin架构GPU，性能大幅提升；发布五大领域成果，含新模型家族、平台等；还开源训练框架与多模态数据集，国产开源模型被提及。
老外傻眼！明用英文提问，DeepSeek依然坚持中文思考
DeepSeek-V3.2和DeepSeek-V3.2-Speciale推理能力显著提升，海外研究者用英文提问，它却用中文思考。评论有两种观点，相关论文显示中文省token但非最有效，大模型选思考语言并非只看效率。
HF日趋榜一！真端到端模型AutoDeco终结手动调参解码
大语言模型手动调参解码繁琐，腾讯AI Lab王琰团队联合港中大（深圳）唐晓莹教授团队推出AutoDeco架构，通过创新训练策略让模型动态预测解码参数，在多模型实验中表现出色且已开源。
Claude 4 核心成员访谈：提升 Agent 独立工作能力，强化模型长程任务能力是关键
Anthropic 两位研究员在采访中表示 2025 年强化学习在大语言模型训练奏效，如 Opus 4 能处理长周期任务。还探讨模型发展方向，如用户与多模型交互、模型可解释性等，认为未来会有白领 AI 员工。
太抓马了！马斯克OpenAI开庭，硅谷巨富互揭老底像极了村口吵架
马斯克与OpenAI的世纪庭审爆点不断。马斯克承认xAI用OpenAI模型训练Grok，且庭审中六次失态；OpenAI也有黑料，如Brockman日记暴露其私下盘算。目前风向对马斯克不利，后续还有奥特曼等证人登场。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
开源框架让代码AI偷师GitHub！bug修复率飙升至69.8%，性能创纪录
MemGovern团队联合多高校团队提出MemGovern框架，将杂乱GitHub数据转化为AI可用的结构化记忆。它构建筛选净化流水线，采用先搜后看模式，实验显示能显著提升代码智能体的bug修复率，还具跨领域推广价值。
别被室内基准高分骗了：大模型是在推理空间，还是在「背答案」？
2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。