「视频预训练」共找到 3048 篇相关文章
杨植麟带 Kimi 团队深夜回应：关于 K2 Thinking 爆火后的一切
上周，月之暗面发布并开源 Kimi K2 Thinking，主打“模型即 Agent”，一上线便引发关注。今日凌晨，杨植麟等人在 Reddit 开展 AMA 活动，回应 K2 Thinking 一系列问题，还回顾了其在多项测试中的亮眼成绩。
哈工大、中科院等利用模型“潜意识”提高推理模型效率，0.6B撬动复杂推理
哈工大、中科院等提出TrajSelector框架，让推理模型‘倾听内心独白’。它利用模型隐藏状态，用0.6B轻量级验证器实现比7B裁判模型更精准选择，在数学竞赛基准测试中表现出色，还能离线筛选数据，但在开放域问答有难题。
赵长鹏投了一个华人大三学生，1100 万美元种子轮，做教育 Agent
华人大三学生 Kai Zhao 创立的教育 Agent 产品 VideoTutor，获 1100 万美元种子轮融资。该产品主打生成专属教学视频，解决 K12 美国高考学习痛点，团队技术与市场表现出色，还分享了硅谷大学生创业趋势。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
3B Image Captioning小钢炮重磅来袭，性能比肩Qwen2.5-VL-72B
文章推荐Dense Image Captioning新技术CapRL，它首次将DeepSeek - R1强化学习法用于image captioning，创新定义reward。训练的CapRL - 3B模型性能比肩Qwen2.5 - VL - 72B，解决了reward设计难题，已开源相关内容。
硅谷陷入了对中国的痴迷与羡慕
《纽约时报》称‘硅谷陷入对中国的痴迷与羡慕’，虽有夸张，但中国在AI、基建等领域进展显著，如通义万相2.5视频大模型。a16z风投公司表达焦虑，中美科技竞赛激烈，双方开始相互学习。
ACL 2025 | GALLa：给代码大模型装上“透视眼”，看懂程序的“骨架”！
蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。
Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红
Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。
大语言模型的解耦：人工智能基础设施的下一轮进化
人工智能模型发展快，但基础设施滞后，传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异，指出解耦架构可突破困境，还阐述其经济影响、实施策略、应用案例及未来展望。
数据蒸馏的双重突破：从几何保真到对抗鲁棒
深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。