「小模型训练」共找到 8562 篇相关文章
他们让万亿参数RL学会了「省着跑」，顺便砍掉九成算力
2025年，强化学习成大模型进化主战场，但万亿参数模型跑RL成本高。Mind Lab团队实现1T参数模型LoRA高效RL训练，GPU消耗降90%，技术开源。此外还有Memory Diffusion记忆机制等成果。
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
12个Ai编程Agent同台PK，最贵的不一定是最强的
上海交大和美团联合发布PRDBench论文，将12个主流AI编程Agent放入50个真实Python项目测试。结果显示，基础模型写代码强，商业版调试优势明显；专门训练的裁判模型比通用大模型靠谱。
实时生成视频！StreamDiT每秒16帧，单卡生成
现有文本生成视频模型多为离线生成，无法满足实时交互需求。加利福尼亚大学与Meta联合提出StreamDiT模型，采用流匹配等方法，蒸馏模型可单卡每秒16帧实时生成512p视频，不过仍有伪影问题。
何恺明CVPR最新讲座PPT上线：走向端到端生成建模
今年CVPR闭幕，何恺明现身会场并做了主题为‘走向端到端生成建模’的分享，近日其个人网页上传了该分享PPT。PPT回顾识别模型演进，探讨生成模型能否重演历史，还介绍了MeanFlow方法及成果。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
Scaling Law 仍然成立，企业搜广推怎么做才能少踩“坑”？
InfoQ《极客有约》X AICon 直播栏目邀请京东、荣耀等专家探讨生成式推荐落地洞察。指出搜广推领域 scaling law 仍成立，大模型改变特征工程等，还分享了系统架构、模型应用等方面经验及挑战。
工业级 LLM 数据工程：北京大学 DCAI 团队 DataFlow 框架的架构设计与实践
2026 年大模型研发从‘模型中心’向‘数据中心’演进，数据语义密度与工程精度成突破关键。北京大学 DCAI 团队推出 DataFlow 框架，解决数据准备难题，其技术报告登顶 Hugging Face。该框架有多种特性，实验验证其能提升模型性能。
谷歌神秘模型Kingfall泄漏！
近日，谷歌AI模型Kingfall在AI Studio平台短暂开放后意外曝光。它具备多模态处理能力，上下文窗口6.5万个token，有两种模式。生成SVG矢量图能力超Claude 4，身份猜测不断。