搜索：大模型推理训练

「大模型推理训练」共找到 8448 篇相关文章

西工大张伟伟团队：大模型时代航空科技的蓝图畅想 | 航空学报CJA

随着国产开源大模型涌现，大语言模型走入生活，挑战传统航空教育，革新科研范式，与航空产业融合推动变革。西工大张伟伟团队探讨其在航空工程教育、科研、行业全链条的影响及挑战。

今天国产大模型热闹非凡，Kimi更新至K2.5版本。它是万亿参数的MoE基础模型，开源且在多项评测表现佳，视觉与编码能力强，还引入Agent Swarm功能，实测展示其解决各类复杂任务能力。

受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。

新智元报道，NUS、UT Austin等机构研究人员提出「拖拽式大语言模型」（DnD），它基于提示词生成模型参数，无需微调适应任务，效率最高提升12000倍，零样本泛化能力出色。

随着视频生成模型发展，影视级长视频需多镜头序列及自然转场，这成新挑战。上海人工智能实验室团队提出 CineTrans 模型，基于掩码机制实现自动化转场，还构建 Cine250K 数据集，实验效果超基线。

由中国电子商会归口，智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准立项，正征集起草单位和个人。该标准可解决企业部署难题，由多元主体联合起草，参与有重要价值。

微软研究团队提出实用方案，用4B参数的微型模型Terminus - 4B替换昂贵顶配大模型接管终端执行任务，采用SFT和RL策略打造子智能体，经测试效果良好，节省Token消耗。

快手发布新版多模态大模型Keye-VL-2.0-30B-A3B，率先将DSA机制引入多模态理解场景，解锁256K超长上下文深度感知，还首次解锁Agent协作机制。该模型在多方面表现出色，且将融入业务带来收益。

研究人员发现大语言模型遗忘并非简单信息删除，可能藏于内部。他们构建表示空间诊断工具，区分可逆与不可逆遗忘，揭示真正遗忘是结构抹除。还在多种方法、数据集和模型上实证，得出系列结论。

国内大模型发展迅速，腾讯此前动作较慢。姚顺雨加入后推动变革，混元团队重建推出Hy3 preview，有295B总参数和快慢思考融合架构，开源且性能优，在多方面表现出色，成本下降。