搜索：稀疏语言模型

「稀疏语言模型」共找到 7890 篇相关文章

李飞飞团队新作：DiT不训练直接改架构，模型深度减半，质量还提高了

本文介绍「嫁接」技术，可在小计算预算下编辑预训练 DiTs 探索新架构。不从头训练，替换算子创建混合架构，保持质量同时减少计算量。还通过实验展示该技术在构建高效架构和文生图模型中的效果。

文章围绕大模型嵌入企业核心系统展开，邀用友罗小江等担纲。介绍鞍钢赵伟升级 RAG 技术、用友罗小江构建决策架构、京东耿东阳用大模型优化供应链的案例，为企业数智化转型提供参考。

在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。

香港科技大学等团队提出 Loop - ViT，将循环 Transformer 引入视觉推理领域。该模型参数少但性能强，3.8M 小版本追平人类平均水平，揭示视觉推理任务中‘思考时间’比‘模型大小’更重要。

《Nature》研究指出，过度依赖现有深度学习模型或阻碍创新。上海 AI 实验室周伯文提出，应推动科学智能从 AI4S 迈向 AGI4S，还介绍“智者”SAGE 架构、“书生”模型及平台等探索成果，并邀同行共拓蓝图。

清华、上交等团队联合发布首个多模态工业信号基座模型 FISHER，用搭积木法对异质工业信号统一建模。技术报告和权重已开源，还提出 RMIS 基准评估性能，实验显示其泛化能力强。

本文为开发者提供2025年AI大模型开发核心技术栈图谱，解析四大核心支柱技术。基础开发框架含深度学习与AI Agent框架；模型训练与微调有分布式训练、参数高效微调；推理优化含关键技术与主流框架；AI编程辅助工具分主流形态且有发展趋势。

论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。

北邮研究团队通过思维链审计实验，揭示大模型长链推理‘越想越错’现象背后的元认知偏差。研究基于RFC协议文档构建受控知识域，分析推理过程，发现反思会加重幻觉，且现有检测方法难以应对。

近期AI领域政策频出，企业对人工智能应用需求攀升，倾向私有化部署，但行业存在技术错配等问题。国内首部针对AI大模型私有化部署的标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。