搜索：两阶段训练法

「两阶段训练法」共找到 3112 篇相关文章

苹果向英伟达生态妥协了！MLX框架主动适配CUDA

苹果特意为端侧AI模型训练推出的MLX框架，主动增加了CUDA支持。因CUDA在AI开发领域占主导，且生态强大，苹果此举是借力英伟达生态、扩大自身影响力的战略选择，也避免侵权。

Mamba一作将演讲整合成科普长文，探讨SSMs和Transformer模型权衡之术。认为Attention非万能，Transformer是阶段性最优。几天后将发布新架构，能与Transformers兼容，还回顾了两模型特点及结合优势。

文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。

Shortcut号称是「第一个超越人类的Excel Agent」，能在约10分钟解决Excel世界锦标赛复杂案例，准确率超80%，还能处理金融建模等任务。但它有格式化懒、多轮对话不佳等局限，目前处早期预览阶段。

中科院自动化所等团队提出VHR方案，通过“视觉神经增强”机制放大模型视觉关键注意力头输出，降低幻觉现象。此前主流方法多作用于最终输出阶段，VHR深入干预内部机制，还介绍了SSL语义引导方法。

据彭博社消息，苹果并购负责人等最高决策层讨论过收购Perplexity AI，目的是招揽人才及为AI搜索引擎做准备。目前处于早期阶段，双方未回应。苹果也考虑合作，还在与Meta竞争招揽人才。

近日，Karpathy在AI Startup School演讲，提出AI正从根本改变软件。他将软件分三个时代，认为LLM是全新操作系统，还指出其特长与局限，点明AI时代两大机遇：部分自主应用和构建Agent友好工具。

国际算法奥赛金牌得主团队测试20个顶级大模型，在584道编程赛题上，高难度题目AI通过率为0%。论文发布LiveCodeBench Pro评测方法，揭示AI编程能力神话泡沫，指出其问题并给出提升方向。

大概念模型（LCM）是自然语言处理新范式，侧重结构化推理和理解，与 LLM 不同。它依赖结构化知识，可模拟专家思维，解决当前 AI 缺陷，文章还介绍其架构、应用、局限，探讨与 LLM 结合的未来发展。

新加坡国立大学邵林团队提出 Manual2Skill 框架，利用 VLMs 将说明书视觉指令转化为机器人装配技能，含层级化装配图生成、分步骤位姿估计、动作生成与执行三阶段，实验验证其在多场景的有效性。