「预训练数据」共找到 4014 篇相关文章
面向 AI Agent 的搜索服务，小宿科技有机会成为百亿美金的新巨头吗？
文章围绕AI搜索展开，分析微软Bing停用API原因，探讨小宿科技做Agent时代AI搜索服务的机会。从多方面剖析小宿优势，如全球通能力、贴合需求打法等，指出AI时代搜索是B端基建博弈。
Meta为他豪掷2亿美元，上交校友庞若鸣，晒出在苹果的最新论文
苹果基础模型团队负责人庞若鸣即将加入Meta，Meta为其开出2亿美金天价。7月9日庞若鸣宣传在苹果参与的研究《AXLearn: Modular Large Model Training on Heterogeneous Infrastructure》，介绍了AXLearn系统优势、架构、实验评估等。
2025上半年大模型使用量观察：Gemini系列占一半市场份额，DeepSeek V3用户留存极高
推特博主「karminski - 牙医」基于OpenRouter数据，分析2025年上半年大模型API市场，涵盖总Token使用量、市场份额、细分领域用量、API接口使用趋势等，得出各模型表现及市场格局的观察结论。
重磅发现！大模型的「aha moment」不是装腔作势，内部信息量暴增数倍！
中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。
数据库厂商入局AI又有新思路，OceanBase选择“卖铲子”
国产数据库厂商 OceanBase 入局 AI 有新思路，近期动作频频。其云数据库业务 OB Cloud 实现 AI 能力开发部署并与多平台集成，已在多行业落地。副总裁尹博学谈其 AI 战略逻辑、面临挑战及未来趋势等。
何恺明新身份：谷歌DeepMind杰出科学家
网友爆料何恺明加入谷歌，经确认他以兼职形式成为谷歌DeepMind杰出科学家。可根据其近期研究推测研究方向，他还探讨生成模型能否走向端到端。何恺明履历辉煌，成果众多。
OmniAvatar震撼开源！阿里夸克开源全新音频驱动角色模型
音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
DPO与GRPO谁更胜一筹？港中文、北大等联合发布首个系统性对比研究
港中文、北大等团队首次全面对比DPO和GRPO算法在自回归图像生成中的应用，评估其在域内、域外性能，探究奖励模型及扩展策略的影响，为开发高效RL算法提供新思路。
高考数学斩获139分！小米7B模型比肩Qwen3-235B、OpenAI o3
2025高考落下帷幕，人工智能领域多家大模型挑战数学卷。小米7B参数的MiMo - VL模型考139分，比肩Qwen3 - 235B、OpenAI o3，还在多方面表现出色，技术报告等已开源。