「效率瓶颈」共找到 1732 篇相关文章
第二代InfLLM开源,同尺寸快三倍!零参数,可训练稀疏注意力
新智元报道,清华、OpenBMB和哈工大提出零额外参数、训练高效的原生稀疏注意力框架InfLLM-V2,仅用5B长文本词元就能完成训练,相比稠密注意力机制有显著加速,性能接近传统稠密模型。
开启端侧长文本时代!面壁全新架构,让小钢炮最快提升220倍
2025智源大会上,面壁智能发布MiniCPM 4.0模型,实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色,降低缓存需求,提高运行效能,还进行多维度架构创新,是AI领域探索高效率语言模型的里程碑。
万字实录:VLA 范式,具身智能的曙光与迷雾丨GAIR Live
2025年5月9日,雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等,指出其面临推理、数据等瓶颈,还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读,详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案,包括Prefill和Decode阶段的优化、通信优化、观测诊断等,并给出了评测结果。
后AlphaFold时代的冷思考,AI制药的破与立 | GAIR live 028
雷峰网等组织“后AlphaFold时代AI制药的破与立”线上圆桌,三位学者探讨AI制药问题。指出算力难颠覆生命法则,数据有缺陷,还给出赛道选择建议,提及AI Agent重塑科研关系及中国AI制药优势与挑战。
RL在Agentic Reasoning中的作用:拨开迷雾,看清本质
近年大语言模型在推理任务能力惊人,但使用外部工具存挑战。传统SFT无法让模型自主调用工具,强化学习虽被引入,但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习,提出有效方法。
Make SFT Great Again!从SFT到DFT:一权重之差,泛化之跃
大型语言模型的监督微调(SFT)简单高效,但泛化能力弱于强化学习(RL)。本文直击 SFT 核心缺陷,揭示其泛化瓶颈源于隐含的“病态奖励结构”,并提出仅需单行代码修改的动态微调(DFT),实验表明其效果显著。
AI改造激光焊接检测!“过杀”率暴降50%,国际头部客户产线已用上
在第三届国际供应链博览会上,广州德擎光学科技的激光焊接在线检测系统展示了AI+先进制造检测落地效果。基于深度学习的AI检测模型,使焊接检测“过杀”率降50%,产线检测精度和效率提升,已用于国际头部客户产线。
OpenClaw 之父惊叹中国速度!大厂集体杀入新战场:用AI 批量制造“一人公司”
AI 发展改写创业规则,“一人公司”批量涌现。创业者借助 AI 工具降低开发门槛,通过外包灵活组建团队。其商业化紧跟技术风口、服务长尾需求,但变现呈“金字塔结构”,竞争靠速度、资源和效率。大厂参与培育市场,传统软件服务商与一人公司边界渐模糊。
光掩模版:芯片产业的 “隐形胜负手”
光掩模版是芯片制造的“微观底片”,其制造流程复杂,精度要求达纳米级。全球市场规模持续增长,亚太占比超60%。中国企业已在部分环节突破,但仍面临高端设备依赖、材料瓶颈和人才短缺挑战。未来技术融合与国产化生态建设将助力产业发展。