「码本坍塌」共找到 298 篇相关文章
大模型也需要自我反思，上海AI Lab合成“错题本”让大模型数学成绩提升13.3%
上海AI Lab提出LEMMA方法，构建“错误 - 反思 - 修正”数据，让大模型从错误中学习。通过教师模型定向制造“学生会犯的错”构造数据，实验显示在Llama3 - 8B上数学解题准确率提升13.3%。
谷歌T5Gemma重燃架构之战！「套壳」反杀Gemma本尊，9B推理快得离谱
2023年以来大模型战场由decoder - only架构主导，Google双线出击。T5Gemma重燃encoder - decoder架构战火，性能提升显著；MedGemma坚守decoder - only路线，强攻医疗多模态，击穿闭源壁垒，打响开源反击战。
全新GPU高速互联设计，为大模型训练降本增效！北大/阶跃/曦智提出新一代高带宽域架构
随着大模型参数规模扩大，分布式训练成关键路径，高带宽域设计对提升训练效率至关重要。现有HBD架构在可扩展性、成本和容错能力等方面有局限，北大、阶跃、曦智团队提出InfiniteHBD架构解决问题。
国产算力Day 0适配，一人剧组时代到来，商汤Seko 2.0降本增效让AI短剧真正落地
商汤Seko 2.0率先实现创编一体与多剧集智能生成，通过一致性控制技术与国产算力适配，缩短漫剧制作周期。它解决了AI视频生成痛点，降低成本、提升效率，适配国产芯片，还拓展了内容生态。
大模型开发者必读！拆解世界级AI模型的诞生，Hugging Face把4年模型训练经验写成了一本开源指南
Hugging Face发布《The Smol Training Playbook》，分享约4年构建SOTA模型和数据集的经验。手册涵盖是否训练、训练何种模型、如何训练等内容，强调数据质量重要性，还介绍了模型设计、训练中的实践与教训。
Transformer可以改装成Mamba了：苹果把推理成本直接打成线性
苹果将Transformer改造成Mamba，采用‘两步走’策略，先造中间形态，再转成Mamba，避免性能崩塌。实验显示，新方法性能几乎没掉，成本逻辑改变，为模型降本重构提供新可能。
OpenAI 内部机密文档曝光！其最大竞争对手揭秘
一份OpenAI内部机密战略文档流出，揭露ChatGPT 2025年上半年核心战略，包括向「超级助手」转型，将对手分两类，还提及2025战略重点，不过最大对手信息被打码，引发网友猜测。
谷歌 Gemini 的新功能 Storybook 很有意思.....
推荐大家体验谷歌Gemini的新功能Storybook，它能生成任何主题的有声故事绘本。如以动漫风格介绍马斯克生平、梳理ChatGPT诞生后的AI发展等，虽有转换性别等情况，但免费且想象空间大。
AI科研全周期拆解：从选题到宣发，哪里能放手，哪里得盯着
Awesome AI Auto-Research Team 综述梳理 AI 科研全周期能力与局限，按四阶段八环节拆解，介绍五种方法范式，指出各阶段应用情况、瓶颈及规律，强调人本治理的 AI 辅助科研才是可信路径。
解道奥赛题成本5000美元？陶哲轩警告，AI下一步要规模化的「更便宜」
谷歌新一代 Gemini 进阶版在 IMO 竞赛达金牌水平，华人数学家陶哲轩对此关注且担忧。他认为评估 AI 表现应谨慎，AI 发展需从定性转向定量，要‘降本增效’，未来标准化评测很重要。