「大模型预训练」共找到 9580 篇相关文章
将DSA注意力引入多模态，快手Keye2.0开启强化推理新范式
快手发布新版多模态大模型Keye-VL-2.0-30B-A3B，率先将DSA机制引入多模态理解场景，解锁256K超长上下文深度感知，还首次解锁Agent协作机制。该模型在多方面表现出色，且将融入业务带来收益。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
Cursor终结者？Grok 4正式登顶！马斯克扬言编程碾压，20万N卡年赚47亿美金！
时隔5个月，xAI发布通用模型Grok 4，后续还将推三款模型。Grok 4上线，有三个订阅版本。马斯克称其智能超博士生，多项基准测试领先，编码或超Cursor。其性能强大源于训练投入和计算扩展。
5B参数+4060Ti，10秒出图，全流程开源可复现！补齐统一多模态生成编辑的开源版图，让高质量图像生成真正变得更轻量、更普及
近日，多机构联合发布统一多模态生成编辑模型DeepGen 1.0，仅5B参数，集成五大能力，4060ti 16G上10秒出图，多项指标超大4倍工业级模型。团队开源全流程代码与数据，可从零复现。
内行被外行指导、时刻担心被裁，Meta 人现在迷茫又内卷
据《金融时报》报道，Meta首席AI科学家Yann LeCun计划离职创业。他不满公司内部变化，与扎克伯格战略分歧大。Meta近年受大模型冲击，内部现‘外行指导内行’、员工迷茫内卷等问题，还要求元宇宙部门用AI提效5倍。
LLM+RL遭严重质疑，随机/错误等虚假奖励也能提升至标准效果？
论文在AI领域观察到类似随机给糖或奖励错误答案让孩子成绩提升的现象，‘虚假奖励四大奇招’效果接近用标准答案训练，Qwen2.5 - Math - 7B模型在测试集上性能飙升，还揭示了Qwen特别的原因及随机奖励有效的推手。
困住医疗AI的死循环，终于有国产玩家跑通了
文章指出医疗AI行业因数据、模型、场景闭环断裂陷入困境，整体渗透率低。讯飞医疗的星火医疗大模型V3.5评测和临床落地表现出色，其构建自强化循环体系，跑通死循环，或使行业马太效应渐显。
成本暴降88%！通义实验室、北大发布ZeroSearch，无需搜索即可激活LLM检索能力
信息检索能力对提升大语言模型推理表现至关重要，但现有方法在训练中面临文档质量不可控和搜索 API 成本高昂两大挑战。为此，通义实验室和北大提出 ZeroSearch 框架，无需真实搜索即可激活 LLM 检索能力，显著降低成本。
从混沌到可控：企业应用中AI Agent不确定性控制的 10 种策略
大语言模型输出的不确定性限制了AI智能体在企业场景的应用，本文总结控制生成式AI Agent不确定性的常见策略，涉及技术、应用设计、管理与治理层面，还推荐了相关作品。
2025 上半年具身智能融资复盘：金额超 200 亿、头部收敛趋势明显、传统制造业巨头增多
2025上半年具身智能融资火热，截至7月16日融资事件130件，预估总融资超200亿。资本从大模型转向具身智能，且向头部企业聚拢，大厂与传统制造巨头积极投资，不过行业仍处早期，上市前景待察。