搜索：大模型预训练

「大模型预训练」共找到 9676 篇相关文章

1.6万人「卷」出科学未来！盛夏AI4S上海巅峰赛，谁人终得桂冠？

7月25 - 26日，第三届世界科学智能大赛总决赛及颁奖典礼在上海举行。大赛面向全球选拔，设五大赛道，吸引近1.6万人参赛。大赛秉持开源开放，成果将在星河启智平台共享，还开辟中学组，展现青少年潜力。

图灵奖得主Yann LeCun与诺贝尔奖得主、谷歌DeepMind CEO哈萨比斯就“智能的本质”展开激辩，马斯克站队哈萨比斯。二人观点分歧大，后LeCun称主要是用词分歧，双方都关注世界模型，但理解和实践有别。

机器人走出实验室后，训练数据需覆盖真实世界情况。OVOW由多团队完成，被ECCV 2026接收。它从单目视频出发，输出可编辑、可碰撞的实例级Mesh，串联视觉基础模型完成流水线工作，能用于物理仿真。

最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。

OpenAI上线GPT - 5时下架旧模型，引发用户不满。在Reddit等社区，用户掀起“还我GPT - 4o”运动，大媒体跟进。奥特曼改口，GPT - 4o回归部分付费用户，免费用户需充值。开发者与用户存在认知鸿沟。

本文总结Google I/O 2026开发者大会成果，涵盖AI模型、产品、Agent系统、视觉生成、搜索、电商等多领域。如推出Gemini 3.5 Flash，升级产品功能，发布新Agent系统，推进电商协议，还有科研成果与硬件更新。

Kimi 上线 K2.5 模型，前端审美佳，接近 Gemini 3，增强多模态识别，支持视频。测试显示它能按要求生成漂亮网页，还可通过反馈迭代。它对设计师和普通人帮助大，且 Agent 模式任务完成率高。

IDEA团队张磊团队提出OVSeg3R开集3D实例分割学习新范式。它无需人工后处理和3D掩码标注，降低训练成本，有望让3D实例分割商业落地，可用于自动驾驶、智能家居等领域。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

B站升级动画视频生成模型Index - AniSora技术并开源，支持多种二次元风格视频镜头一键生成。基于相关研究提出首个专为二次元视频生成的强化学习技术框架，构建奖励数据集、训练AnimeReward、提出GAPO优化策略，实验验证其有效性。