搜索：训练 - 推理不匹配

「训练 - 推理不匹配」共找到 3650 篇相关文章

1052篇文献！上海AI Lab发布科学LLM综述：从数据基础到Agent前沿

上海AI Lab主导，25家研究机构共同梳理270+训练集、190+评测集，提出科学数据分层框架与智能体闭环科研新范式。还介绍了模型演进、数据情况、评估基准等，指出数据缺陷并展望走向科学家智能体的三步。

在医疗、法律等领域，手动从非结构化文本提取信息费力，传统NLP工具需复杂训练。谷歌开源的LangExtract是高精度信息抽取Python库，能自动提取结构化信息，有精确源定位等功能，还给出使用示例和典型场景。

扩散模型成生成任务主流技术，但逐步去噪机制致推理延迟大。西湖大学提出 EPD - Solver 算法，融合三类加速思路优势，可减少积分误差、提升生成质量，还能作插件集成，突破扩散模型速度与质量权衡瓶颈。

在WAIC上，我国发布全球首个全链式空间天气AI预报模型“风宇”。它首创链式训练结构，整合孤立环节；基于天地一体化观测数据，在多区域短临预测表现卓越，误差低，已申请多项专利，还可用于航天器设计管理。

昨晚，月之暗面发布并开源 Kimi K2 大模型，同步上线更新 API，价格 16 元/百万 token 输出。它超过多个开源和闭源模型成新 SOTA，展示出领先能力，还介绍训练关键技术，或成模型智能进化关键。

OpenAI昨夜动作不断，o3模型降价80%，o3 - pro发布，开源模型延期。Sam Altman发长文《温和奇点》，预测AI发展时间线。o3价格虽降但使用成本仍有差异，o3 - pro性能强却推理慢，开源延期引发猜测。

北京大学和蚂蚁集团研究表明，扩散语言模型虽理论上有并行生成优势，但实践中在某些任务推理成本更高。研究通过实验对比，分析了扩散与自回归模型在不同评估指标下的效率，指出选择模型要视任务需求。

来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。

文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。

文章指出VLM在实际生产应用中因高分辨率图像存在效率问题，介绍Apple出品的FastVLM解决方案，阐述其架构、训练过程，展示在多个基准测试的性能，凸显在高分辨率输入下提升效率的优势及实际应用价值。