「视觉语言预训练」共找到 3299 篇相关文章
最新 AGI 暴论：强化学习的「GPT-3 时刻」实现，还需要 1 万年？
国外AI初创公司Mechanize三位创始人联合撰文称，RL或迎“GPT - 3时刻”，但需数千至上万年“模型处理任务所用时间”训练。还提出“复制训练”新范式，能磨炼模型能力，补足短板。
The Batch: 871 | Mistral测量了大语言模型的能耗、水耗与物料消耗
法国AI公司Mistral发布对Mistral Large 2的环境分析报告，涵盖全生命周期影响。研究表明单次使用影响小，但累计负担大。虽研究有不足，但其方法或推动环保型AI发展。
VQA高分是在看图，还是在记答案？ReKey只更新决定答案的那一小块
视觉问答模型准确率提升，但高分可能源于记忆。浙江大学等团队提出 ReKey，保留真实场景，只更新决定答案的视觉线索，使评测面向未见过内容，且多数环节可自动完成。
突发！卡帕西宣布入职Anthropic
大神Karpathy宣布加入Anthropic，重回一线大厂。他曾多次在AI领域转换角色，此次将加入预训练团队，开展用Claude加速自身预训练研究。外界揣测其离开OpenAI原因，加入Anthropic能为研究提供更多资源。
机器狗腿被锯了也能继续走！最新机器人大脑来自320亿估值独角兽
Skild AI推出Skild Brain机器人大脑，它在虚拟环境训练相当于一千年时间成型。此模型没在对应机器人训练，控制能力是涌现的，能应对肢体断裂、马达卡住等情况，还可完成精细动作。
谷歌翻译重大更新：实时翻译，全球无障碍交流摩擦苹果
Google搜索产品副总裁宣布Google翻译引入Gemini模型，翻译能力飞跃。更新含顶尖文本翻译、实时语音对话翻译（Beta版）及扩展语言练习功能，适用多平台多语言，谷歌期待用户反馈以优化体验。
强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史
本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
Meta出走华人创业团队，种子轮800万美元，要打造视觉AI记忆大脑
由前Meta顶尖科学家创立的Memories.ai获800万美元种子轮融资。其大视觉记忆模型LVMM解决AI‘记忆缺失’问题，在多领域刷新SOTA基准，应用潜力大，还开放API及网页应用。
MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents
MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents，将交易任务分解为专业角色，含分析师、研究员等。介绍了安装、CLI使用、包的实现细节等，还提及项目地址。