「大模型预训练」共找到 9676 篇相关文章
DeepSeek深夜更新后自曝：我是V4（？！）
DeepSeek网页端深夜大更新，推出「快速模式」和「专家模式」，还有「视觉模型」开启灰度测试。虽官方未说明，但网友推测专家模式可能是V4或V4 Lite，完整版V4或许不远。
黄仁勋罕见长文：AI是一个五层蛋糕
黄仁勋认为AI是由能源、芯片、基础设施、模型、应用组成的五层蛋糕，是像电力、互联网一样的基础设施。目前AI建设刚起步，虽已产生经济价值，但大部分基础设施、劳动力、机会待实现。
苹果与Anthropic合作，开发AI编程助手
彭博消息，苹果与Anthropic合作，为Xcode打造AI编程助手，集成ClaudeSonnet大模型，可自动完成代码编写等工作。现处内部测试，若顺利将向第三方开发者发布，有望改变苹果平台应用开发方式。
The Batch: 973｜Claude 的水印如何运作
Anthropic将在2026年8月2日后发布的Claude模型全球部署肉眼不可见、机器可读的水印，用于表明文本和图像由其生成。该技术基于Google的SynthID - Text，不过此公告引发广泛争议。
Agent创业者的天塌了，OpenAI发布ChatGPT Agent
昨晚OpenAI发布ChatGPT Agent，这让Agent创业者紧张。它整合多种能力，功能强大，支持多操作。新模型经强化学习调优，在多基准测试中表现佳，或挤压初创公司通用Agent赛道空间。
The Batch: 972｜Grok 的 Cursor 联盟获得回报
SpaceXAI发布与Cursor联合开发的视觉 - 语言模型Grok 4.6，已向开发者开放。介绍其输入/输出、特性等信息，阐述工作原理、性能表现，还提及相关新闻背景、重要原因及期望。
ACL 2026 | LCA：DeepSeek 长文本加速神器，90% KV 缓存缩减 + 2.5 倍推理提速
琶洲实验室等团队提出潜在空间压缩注意力（LCA），入选 ACL 2026。LCA 突破传统注意力机制瓶颈，适配不同大模型，降低硬件门槛与成本，提升推理效率。论文与代码已开源。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
刚刚，清华团队用27M参数击败o3-mini！或将改变AI发展方向
清华大学研究团队发布论文，展示Hierarchical Reasoning Model（HRM）。该模型仅27M参数、1000个训练样本，在推理任务上击败OpenAI的o3 - mini - high，或改变AI发展方向。
30万AI顾问进公司，OpenAI砸1.5亿改写你的报销周报
6月14日，OpenAI掏出1.5亿美元推出Partner Network计划，要在2026年底前训练并认证30万名顾问，将AI塞进企业工作流程。此前Anthropic也有类似动作，模型竞争正转向落地应用。