「长文本训练」共找到 2929 篇相关文章
深度解读 DeepSeek V4.1 Flash 全新架构，如何成为显存杀手
本文深度解读DeepSeek最新发布的V4.1 Flash大模型，详解其全新CED架构与第二代压缩稀疏注意力CSA2，揭秘其通过架构创新大幅压缩KV缓存、降低显存算力成本，在长上下文Agent场景实现性能反超的细节。
500万次围观，1X把「世界模型」真正用在了机器人NEO身上
1X公司为机器人NEO引入1X World Model，使其学会‘想象’。该模型借助视频预训练，不依赖大规模机器人数据和遥操作演示，能泛化到新场景。实验显示其在多任务上表现不错，但精细操作有挑战。
刚刚，美团推出 136 亿参数视频生成模型
美团推出 136 亿参数视频生成基础模型 LongCat-Video，采用 MIT 开源协议。该模型覆盖文本、图像生成视频及视频续写三类任务，能生成分钟级长视频。效率高，评测数据表现佳，安装和运行简便，引网友惊叹。
单卡可跑18万原子！分子模拟的“规模焦虑”该终结了
至知创新研究院UBio团队发布的UBio-MolFM v1.5，是可进行分子动力学模拟的机器学习原子间势函数。它在精度和规模上有提升，实测中表现优于经典力场，架构、数据和训练都有创新，误差降45%，速度提8倍，现已开源。
搜狗输入法，居然还在更新？？
在腾讯微信输入法上线、各类AI新产品轰炸的当下，搜狗输入法进行20.0 AI大版本升级。它有AI文本翻译、轻声识别等功能，用AI大模型全面重构，还接入腾讯混元、DeepSeek R1大模型，免费提供AI服务。
高性能计算群星闪耀时
本文介绍了高性能计算（HPC）在大模型时代的重要性，以及清华高性能计算团队在HPC及相关领域的研究与实践。如郑纬民带领团队突破存储技术，陈文光、翟季冬等助力大模型训练，武永卫团队优化推理，张悠慧探索类脑计算。
1.5B刷新数学代码SOTA！快手&清华精细化Token管理，LLM推理能力飙升
快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理，对知识型和推理型Token差异化训练，让知识和推理同步更新且互不干扰，在数学和代码任务表现出色。
禁令之下，黄仁勋再用“阉割芯片”抢夺中国市场
美国芯片出口管制冲击英伟达，其在中国市场损失大、份额降。黄仁勋计划7月推‘阉割芯片’B20、B40/B30抢市场。不同客户有选择倾向，同时国产GPU有机会也面临难题，企业还尝试海外训练模型。
6.1B激活，三榜开源第一！蚂蚁·安诊儿医疗大模型发布
由浙江省卫生健康信息中心等联合研发的开源医疗语言模型AntAngelMed发布。它基于Ling - flash - 2.0，100B总参数仅激活6.1B达约40B密集模型性能，在多个权威医疗基准测评中居前列，采用三阶段训练流程，高效MoE架构。
xAI解散，但Grok还在上新，马斯克官宣新模型
xAI 解散、大批成员离职后，马斯克透露 Grok 最新模型进展，参数量 1.5T 的 Grok V9 - Medium 已完成训练，预计两到三周内发布。他还宣布现有 0.5T 模型年底前开源，此外首款编码智能体 Grok Build 也备受关注。