搜索：视觉语言预训练

「视觉语言预训练」共找到 3307 篇相关文章

抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o

抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。

马斯克宣布自建晶圆厂“Terafab”，目标每年1太瓦算力，还要把数据中心送上天，引发争议。红杉合伙人Shaun Maguire力挺xAI，认为其会赢，还指出马斯克有识别技术拐点的能力，虽错过语言模型转向，但已修正。

多模态大模型多停留在整体场景级理解，现实任务需细粒度、对象级理解。浙江大学等联合提出PixelRefer框架，可实现精细视觉指代与推理，在多项任务表现领先，轻量版性能优，还开源两类数据集。

腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。

ClockBench测试让11个多模态大模型与5个普通人认钟表时间，人类平均准确率89.1%，最好的AI仅13.3%。AI在复杂钟面表现差，却能处理抽象指令。该测试暴露视觉AI空间推理缺陷，对评估有启发。

向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。

文章指出大语言模型驱动的Agent系统存在核心矛盾，常见上下文加载方案有局限，缺乏灵活机制。介绍了AgentScope发布的Skill机制及渐进式披露策略，还讲了其在Java中的实现，最后分析了适用与不适用场景。

作者Jack Morris认为AI虽进步明显，但范式转变级突破不多。大语言模型四次关键突破底层理论早已有之，新在于数据。改变数据比调整模型或算法作用更明显，推动AI进步应找新数据，如YouTube或具身化数据。

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

Kubernetes联合创始人Brandon Burns表示，AI让Kubernetes回到‘未完成’状态，它得适应GPU调度等新需求。他还谈到AI对编程工作的影响，如代码审查成核心技能，未来编程语言或为AI设计。