「预训练时代」共找到 3280 篇相关文章
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
仅用图像也能Think：Google等提出一种视觉规划的全新推理范式！
剑桥和Google等提出并开源视觉规划范式，通过纯视觉表示规划，独立于文本。还引入VPRL框架，用GRPO后训练大型视觉模型。实验选三个视觉导航任务，VPRL表现最佳，显著优于其他方法。
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
14k颗星！你的电脑屏幕，正在成为AGI的“眼睛”！这款开源神器让你一键记录所有操作
介绍开源项目ScreenPipe，它是跨平台桌面数据抓取API，能全维度记录数据，有沙盒化插件系统等功能。因能为AGI提供数据、对开发者友好而火，还给出安装和创建插件命令，称其有成为AGI时代“现实采集器”的野心。
4个MIT的00后，两年干出全球最火AI编程工具，600亿美元卖给了SpaceX
今年1月，Cursor CEO Michael Truell决定训练自有模型，不再依赖Anthropic的Claude。5个月后，SpaceX以600亿美元收购Cursor母公司。此前Cursor增长快但依赖Claude，自研模型有成本优势却缺算力。
高潮从第几秒开始？GaMMA 让多模态大模型真正「听懂」音乐时间线
现有多模态大模型难以理解音乐时间线。复旦大学与字节跳动团队提出 GaMMA，采用双编码器融合网络，经三阶段训练，还推出 MusicBench 评测基准。实验显示，GaMMA 在多基准上表现优异，刷新 SOTA。
打字太慢？2026年开发者语音输入终极指南：12款工具横评，找到最适合你的那一个
文章是 2026 年开发者语音输入工具横评。指出 AI 编程时代语音输入成刚需，介绍 12 款工具优缺点、适用场景和价格，还给出使用技巧，作者分享自己的选择组合。
除了AGI已来和死亡，我们为黄仁勋重磅访谈总结了50条AI最前沿判断
2026年3月23日黄仁勋在播客访谈提出众多前沿判断，如AGI已来，Agent时代开启；智能会成商品，人性才稀缺；推理成本高；合成数据非旁门左道等，还谈及公司架构、算力、供应链等话题。
统一视觉多模态与多任务！快手可灵与港科大团队发布视频生成模型，加速真实世界理解
港科大、港中文、清华和快手可灵团队提出全新视觉框架UnityVideo，统一训练多种视觉模态，让模型更懂物理规律，视频生成更真实可控，还实现零样本泛化，在多任务表现优异。