「大模型预训练」共找到 9494 篇相关文章
中学生就能看懂：从零开始理解LLM内部原理【十】｜ “过拟合” 与 Dropout
文章围绕神经网络过拟合问题展开，介绍了过拟合的概念、危害及产生原因，阐述了缓解过拟合的正则化方法，重点介绍了Dropout随机失活，还指出其局限性及在大模型中的应用策略。
刚刚，Anthropic新作：大模型意识被发现了
Anthropic 最新研究发现 LLM 有可被语言化报告的全局工作空间（J - space），用 Jacobian Lens 技术能读出模型思考概念、干预推理，还可暴露其未说出口的意图，为 AI 安全审计提供新途径。
720美元套出A社死藏的Opus原始思维链，还是Haiku泄露的，GPT/Gemini也中招
研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。
从高考到实战，豆包大模型交卷了
火山引擎原动力大会 Force 2025 发布豆包大模型 1.6 等多项新产品。豆包 1.6 性能提升，在多方面表现出色；Seedance 1.0 Pro 视频生成能力强。大会强调‘AI 云原生’，还推出多个套件和技术进展。
虚拟智库：运用大语言模型获取多元视角
本文探讨如何用大语言模型（LLM）构建虚拟智库。以电商系统架构决策为例，通过让 LLM 扮演不同角色，如 Martin Fowler、David Heinemeier Hansson 等，从多元视角讨论微服务架构利弊，为架构决策提供参考。
Nano Banana不及格，开源模型一分难求！上海AI Lab新基准直击文生图模型痛点
上海人工智能实验室等联合发布首个多学科文生图考试基准GenExam，覆盖10学科、1000题。实验显示，GPT - 4o严格评分正确率仅12.1%，开源模型接近0分，暴露出模型在专业场景的短板。
不改模型、不降质量，谷歌让Gemma 4快了3倍：本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。
语言模型内部还藏着众多策略模型？自底向上强化学习重塑底层特征 | 直播预约
现有强化学习工作将语言模型作整体策略优化，研究提出以策略视角审视内部隐藏状态，分析层级和模块级策略，发现不同模型模式差异，还提出自底向上强化学习策略，为研究架起新桥梁。
DeepSeek、智谱被曝造芯，国产大模型绕开英伟达！
据路透社等爆料，DeepSeek与智谱AI正秘密自研定制化AI芯片，目标是摆脱对英伟达等的硬件依赖，构建自身算力生态。因算力账本和外部环境压力，两家公司选择研发面向推理场景的芯片。
Skills vs MCP，谁才是「大模型的 HTTP 时刻」？
近期，Anthropic新推Claude Skills获好评，而MCP协议一周年却很寂静。文章探讨MCP定位、适用边界及潜在价值，分析其与Claude Skills的关系，指出MCP生态现状及适用业务场景。