搜索：预训练语言模型

「预训练语言模型」共找到 8261 篇相关文章

中国模型打服硅谷：Airbnb联创CEO感叹又快又好又便宜！把ChatGPT合作都拒了

当OpenAI为ChatGPT造势时，中国模型凭实力圈粉老外。爱彼迎CEO称依赖阿里Qwen，因其又好又快又便宜；Kimi K2性能碾压闭源模型；DeepSeek创新成果获多方称赞，中国模型在全球AI竞赛中走出独特路径。

百度文库从文档检索平台转型为一站式AI内容获取和创作平台，付费用户超4000万，AI MAU近亿，智能PPT访问量全球第一。访谈中，负责人分享产品理念、优势及运营经验，如不走大模型能直接做的事，从用户需求出发开发功能等。

LMArena竞技场发布文生图榜单，腾讯混元图像3.0夺冠，超越谷歌、字节和OpenAI等模型。它是原生多模态模型，语义理解强，核心技术独特，经多阶段训练，效果能与顶尖模型媲美。

卫星星座成数字经济时代基础设施，但运行背后规划难题待解。北航刘偲教授团队提出首个大规模真实星座调度基准AEOS - Bench，训练内嵌时间约束的调度模型AEOS - Former，为‘AI星座规划’奠定新技术基准。

多伦多大学等团队发布全球首个基因推理AI模型BioReason，将DNA基础模型与大语言模型融合，准确率从88%提至97%，可解释基因组变异致病机制，有望上线Hugging Face，应用前景广。

OpenRouter和a16z联合发布《State of AI：An Empirical 100 Trillion Token Study with OpenRouter》，基于100万亿Token分析模型真实使用情况，揭示2025年AI发展趋势，如开源模型崛起、推理模型成新范式等。

字节Seed与清华AIR团队开源CUDA Agent，在GPU内核优化基准KernelBench上成绩优异。它是大规模智能体强化学习系统，训练数据经多阶段构建，分阶段训练，全面超越商业模型，还开源了训练数据集。

文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。

大型语言模型训练耗算力与时间，传统模型融合方法有局限。本文提出SoCE新方法，通过筛选专家模型、非均匀加权平均融合，在多评测中实现先进性能，为LLM优化提供新思路。

阿里巴巴对开源权重模型 Qwen3 全新升级，发布 Qwen3 - Next - 80B - A3B 的 Instruct 和 Thinking 版本权重。其融合新研究成果，推理能耗低、速度快，还优化架构和训练方法提升效率与稳定性。