搜索：语言模型训练

「语言模型训练」共找到 8422 篇相关文章

谢赛宁REPA得到大幅改进，只需不到4行代码

Adobe Research等团队对REPA展开研究，发现驱动目标表征生成性能的是空间结构而非全局性能。基于此构建iREPA，代码不到4行，能提升REPA收敛速度，在多方面表现出色。

作者认为Gemini 3是目前最好的模型，编程时前端用Gemini 3，后端用Codex。无编程需求时，它也能助力信息处理。Google推出Generative UI，二者结合让我们接近Software 3.0。

现有视觉语言模型处理长视频面临诸多难题，厦门大学等联合提出轻量高效、无需微调的 Video-RAG 框架，采用多模态辅助文本检索增强生成，解决长视频理解问题，适用于多场景。

大语言模型重塑软件工程各环节，但缺乏评估其在该领域表现的系统工具。浙江大学等机构团队首次对291个软件工程Benchmark系统综述，分析现状、痛点并给出改进方向。

群核科技构建具身智能时代的「3D版ImageNet」，其SpatialVerse平台为机器人提供三维数据与仿真环境。借助新技术发布全球首个3D语义数据集InteriorGS，还与多机构合作，成果获学术和产业认可。

文章聚焦同程旅行推出的垂类旅行 Agent DeepTrip，介绍其设计与落地实践。它能降低旅行决策成本，构建旅行服务生态。团队基于多方面考量选 Agent 架构，还从多维度介绍实现方法及未来规划。

在电商和数字营销领域，现有框架呈现效果不佳。字节推出DreamActor - H1框架，基于扩散变换器，集成Seaweed - 7B模型，能生成高保真人机交互视频，有效果突破但也存在局限。

MinerU是上海人工智能实验室推出的开源数据提取工具，能将多模态文档解析为Markdown，支持精准提取图片、表格、公式，具有多语言支持、高性能等特点，应用场景广泛，还开源免费。

马斯克版微信XChat将于4月17日上线，支持中文版。其核心主打加密聊天，功能有文字、图片等发送及视频通话，还内置Grok模型。不过网友质疑其难成功，因X已有聊天功能，且微信生态难撼动，市场竞争大。

东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。