搜索：AI预训练范式

「AI预训练范式」共找到 11383 篇相关文章

ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式

本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。

时值第四届中国AIGC产业峰会，量子位将评选2026年度值得关注的AIGC企业和产品。参选有条件，评选有维度，报名4月27日截止，结果5月峰会公布，还介绍了峰会相关信息。

在Code RAG场景中，传统文本Embedding模型处理代码表现欠佳。蚂蚁集团与上海交通大学联合发布C2LLM系列模型，引入注意池化模块，在MTEB - Code榜单表现出色，还得益于优质训练流程，成果已回馈社区。

2026年初，法国独立开发者Marc Lou晒出2025年103万美元收入，他靠一人开发产品，利用AI工具快速迭代。他采用多产品矩阵、交叉推广等策略，也分析了中国独立开发者状况，给出入局建议。

AI 快砸作者饭碗，智谱 GLM - 4.6V 能根据 NeurIPS 2025 最佳论文生成图文并茂的公众号文章。它还能助力学生看论文、分析财报等，可复刻网站、处理视频，在多模态评测中达同级别 SOTA。

在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。

在华为全联接大会2025上，华为基于自研灵衢互联协议创新超节点架构，重新定义大规模有效算力新范式。它能解决传统集群通信问题，还推出覆盖全场景的产品组合，并强调‘硬件开放、软件开源’生态战略。

大型推理模型有推理能力，但静态知识限制其在复杂任务表现。WebThinker 让 LRM 推理中自主搜索、导航及写报告，集成探索器，有自主策略和训练工具，实验显示性能强，还指明未来探索方向。

文章围绕OpenAI提出九个关键问题并给出判断。虽受Gemini影响，面临竞争，但作者对其2026年叙事反转有信心，还分析了用户增长、业务布局、技术突破等方面情况。

InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。