「参数效率」共找到 1809 篇相关文章
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
让外部知识“长入”模型：动态化与参数化 RAG 技术探索
检索增强生成（RAG）成大语言模型利用外部知识主流范式，但传统方法将其当黑箱，忽略动态需求和机制鸿沟。艾清遥博士介绍动态化和参数化检索增强技术，可提升准确性与适应性，减少计算开销。
兼顾效率、成本与能力，百灵开源旗舰推理模型 Ring-2.6-1T
5月15日，蚂蚁百灵开源旗舰级推理模型Ring-2.6-1T，权重文件上线Hugging Face、ModelScope平台。该模型有万亿参数，‘按需思考’，在代理执行、推理机制、训练范式三方面升级，评测表现出色。
万赞！别把AI当搜索，10个让AI效率提升10倍的技巧
Greg Isenberg基于Anthropic官方研究拆解10个让Claude效率提升10倍的技巧，解决AI'幻觉'等问题，涵盖协作语气、明确性原则等方面，虽以Claude为例，但对其他AI也适用。
第二代InfLLM开源，同尺寸快三倍！零参数，可训练稀疏注意力
新智元报道，清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2，仅用5B长文本词元就能完成训练，相比稠密注意力机制有显著加速，性能接近传统稠密模型。
推理效率狂飙60倍：DiDi-Instruct让扩散大模型16步超越千步GPT
普渡大学等研究者提出 DiDi-Instruct 后训练方法，可将扩散大语言模型推理加速 60 倍，超越传统 GPT 模型。该方法实现推理效率与效果双提升，为大语言模型落地提供新方案。
Loop-ViT：让AI学会「反复思考」，3.8M参数小模型追平人类平均水平
香港科技大学等团队提出 Loop - ViT，将循环 Transformer 引入视觉推理领域。该模型参数少但性能强，3.8M 小版本追平人类平均水平，揭示视觉推理任务中‘思考时间’比‘模型大小’更重要。
GPT-5通关《宝可梦水晶》创纪录！9517步击败赤爷，效率碾压o3三倍！
GPT-5通关《宝可梦水晶》创纪录，仅9517步击败赤爷，步数为o3的三分之一。它在主线任务效率也远超o3，如收集徽章、对战四天王等。其优势在于幻觉少、空间推理和目标规划能力强。
对话地平线前高管牛建伟：万亿参数大模型如何重塑具身智能
具身智能赛道分“VLA派”“智驾降维派”和“大模型派”。地平线前高管牛建伟认为VLA是弯路，主张用分层架构，以万亿参数“空间智能大模型”做大脑，VA小模型执行操作，目标是做物理世界的OpenClaw。
中科大 × 华为联合突破！SparseRM：1% 参数实现 LLM 偏好建模高效革新
中科大与华为联合提出SparseRM轻量级偏好建模方案，基于稀疏自编码器构建低参可解释奖励模型。实验显示它用不到1%可训练参数，在多任务中性能优，还能融入下游对齐流程，为LLM高效对齐提供新可能。