「概念蒸馏训练策略」共找到 2511 篇相关文章
全新预训练数据筛选方案，让数据效率提升10倍！配置仅需fastText评分器｜港科大vivo出品
香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect，已被ICML 2025接收。它只需训练部署基于fastText的评分器，减少10倍计算需求，在多数据集实验中效果显著优于其他方法。
刘鹏飞组提出Agent领域的少即是多：智能不在于数据堆砌，78个样本训练出超强Agent，128倍效率提升
刘鹏飞组论文《LIMI: Less is More for Agency》提出颠覆性观点，认为Agent智能培育关键在数据质而非量。LIMI用78个样本在AgencyBench得分超基线模型，实现128倍数据效率提升，为Agent开发提供新路径。
AI生成视频总不符合物理规律？匹兹堡大学团队新作PhyT2V：不重训练模型也能让物理真实度狂飙2.3倍！
匹兹堡大学团队提出 PhyT2V 框架，论文已被 CVPR 2025 接收。该框架不依赖重训练或大量外部数据，通过链式推理与迭代修正机制，增强主流 T2V 模型物理场景泛化与生成能力，应用前景广。
思维锚点：破解LLM Reasoning黑箱的关键句
文章提出思维锚点概念，指推理轨迹中影响后续步骤和答案的关键句。开发三种归因方法，系统论证高级组织句影响力更大，锚点主导错误修正。研究为理解LLM推理机制开辟新途径，开源工具支持可视化分析。
Claude code让程序员消失，Anthropic却说用AI编程会让你变傻
Anthropic科学家实验发现，新手过度依赖AI编程，概念理解、代码阅读和调试能力显著退化，效率未提升。研究识别六种AI使用模式，指出主动思考才是技能形成途径，应保留人脑训练的“摩擦力”。
必看！SEO、AEO、GEO、AAO是什么，如何做，实际应用举例，适合谁做及如何协作？
文章由白杨SEO撰写，介绍SEO、AEO、GEO、AAO概念、做法、应用及适用企业，强调它们是互补的搜索营销手段，还介绍了AI搜索优化GEO第二期训练营相关信息。
梁文锋叫停签约，DeepSeek百亿新融资或全面暂停；白宫控月之暗面蒸馏Anthropic Fable 5遭驳；腾讯员工晒317万年终奖被辞永不录用｜Q资讯
本文汇总一周AI行业热点，有DeepSeek百亿融资或暂停、Karpathy或从Anthropic离职等消息，还涉及腾讯、360、美团等公司动态，以及多个新模型发布与技术成果。
Karpathy再放大招：8000行代码复现ChatGPT全栈，最低成本仅100美元，4小时跑完
Andrej Karpathy发布项目nanochat，是全栈式ChatGPT克隆体训练/推理流水线，代码约8000行，覆盖训练分词器、预训练等完整流程。介绍不同成本下模型表现，还回答网友关于架构、训练数据等问题。
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
刚刚，谷歌摊牌：Genie 3让你1秒「进入」名画，人人可造交互世界！
谷歌新发布Genie 3世界模型，能从文本生成交互式AI空间世界，操控图像和视频。用户可进入《苏格拉底之死》《夜游者》等名画探索，还能利用它训练3D模型，实现沉浸式体验。