「AI预训练范式」共找到 11496 篇相关文章
五年，终于等来Transformers v5
Transformers v5发布首个RC版本v5.0.0rc0，跨越从v4到v5长达五年的技术周期。其日下载量从2万次激增至超300万次，总安装量突破12亿次。v5将PyTorch确立为唯一核心后端，聚焦四大维度进化。
解放军总医院联合南大、吉大等机构，共同提出首个「脊柱诊疗大模型」SpineGPT
解放军总医院联合多机构研发首个脊柱诊疗大模型 SpineGPT。研究指出通用 LVLM 有‘认知鸿沟’，团队构建 SpineMed 生态系统，含 SpineMed - 450K 数据集与 SpineBench 评估基准，SpineGPT 表现超越开源模型。
Meta通过简单算术解锁LLM SoTA性能
大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。
模型汤新做法！Meta｜提出“类别专家汤”：SoCE，大幅提升模型性能，刷新SoTA！
大语言模型领域，提升性能常需高算力、大量数据和长时间训练。Meta提出新型模型汤技术SoCE，通过分析类别相关性操纵模型权重，在BFCL上刷新SOTA记录，为开源社区指明低成本进化之路。
4万亿刀，仅3.6万人！英伟达揭残酷真相：劳动正与财富大脱钩
英伟达市值突破4万亿美元，「每位员工对应市值」创新高，劳动与资本大脱钩现象凸显。科技巨头如苹果、谷歌等新增千亿营收所需员工数递减，沃尔玛非科技领域也有类似情况，还探讨了AGI及投资启示。
你急它不急：GPT-5先判断，再决定「速答」还是「深想」
OpenAI副总裁Jerry Tworek透露，GPT - 5能判断问题难度，分配思考时间，决定何时停下。它升级了推理能力，有了时间感，采用受控思考机制，提升了复杂任务准确率，减少幻觉。其进化历经o1、o3到GPT - 5阶段。
横扫硅谷的千问，杀回国内了
阿里Qwen模型获硅谷认可，Airbnb等公司盛赞。Qwen3 Max在投资大赛夺冠，多模型在各测试表现优异。11月14日阿里推千问APP，金沙江朱啸虎称其为中国ChatGPT，从多维度对比，千问表现出色。
用155万模拟视频给模型上课！GVE模型一次学会9种视频检索技能
当前视频检索研究陷入困境，现有模型难以应对复杂检索需求。香港科技大学（广州）联合阿里巴巴通义实验室推出通用视频嵌入模型GVE，其在零样本设置下超越14个主流模型，全链条创新为视频检索通用化奠定基础。
一篇文章告诉你：国产 GPU 背后的技术和商业路线异同
过去两年，国产 GPU 赛道进入公开财务与审视阶段。文章分析了摩尔线程、沐曦等企业不同技术与商业路线，如摩尔线程走“高启动＋快扩张”，沐曦选“厚积薄发＋先服务高端算力场景”等。
硅谷热议：最快语音转文字模型
AI语音独角兽ElevenLabs发布Scribe v2 Realtime实时语音转文本模型，实现150毫秒超低延迟、93.5%高准确率，覆盖90多种语言，打破速度与精度不可兼得困境，此前该领域痛点多。