「预训练研究」共找到 3695 篇相关文章
Sutton 的批评与反思：AGI 的下一步是什么？
文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。
生物学家称：大脑并非你体内唯一拥有意识的器官
生物学家Michael Levin提出惊人观点，体内器官如肝脏可能有独立意识，符合判断‘心智’标准。他团队正用AI构建翻译器与之对话，还指出意识是连续光谱，该研究将改变我们对自身和生命的认知。
21.7K 标星的开源TTS！FishAudio开源情感语音核弹：200万小时炼成“声优AI”！
FishAudio团队推出新一代TTS语音模型OpenAudio S1，基于200万小时音频数据训练，采用Qwen3+Descript Audio Codec架构。它能实现情感表达，在TTS - Arena榜单登顶，还提供不同版本适配，适用场景广泛。
刚刚，美国AI霸主换了！Anthropic年收300亿，碾压OpenAI
外媒披露Anthropic年化营收达300亿美元，超越OpenAI的240亿。Anthropic由OpenAI前员工创立，15个月营收翻30倍，训练成本仅为对手四分之一。其80%收入来自企业端，而OpenAI陷入‘增收不增利’怪圈，内部也矛盾重重。
Karpathy刚刚敲响警钟：大模型的“终极之战”打响！Agent大军即将全面接管研发
Andrej Karpathy发布新项目autoresearch，人改提示词，AI改训练代码。经约2天微调，找到约20个降低验证损失的修改，提升排行榜成绩。Agent还发现多项重要改进点，未来前沿LLM实验室或走此路。
源神阿里！图像生成Ovis-Image再开源，7B小参数媲美GPT-4o和20B开源模型
阿里Ovis团队发布Ovis - Image，7B参数文本到图像模型，在文本渲染任务媲美GPT - 4o和20B + 开源模型。它架构优化、数据工程精细、训练范式独特，实测数据表现佳，显存占用低、推理快。
马斯克刚关注了这份AI报告
受谷歌DeepMind委托，Epoch发布报告剖析2030年AI的发展。指出训练成本或超千亿美元，公开文本数据2027年耗尽等，马斯克也关注此报告。还从多方面论证发展趋势可延续，且AI将加速多领域科研。
Lumina-mGPT 2.0：自回归模型华丽复兴，媲美顶尖扩散模型
上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。
编程能力开源SOTA，网络安全提升2倍！智谱发布GLM-5.3
智谱发布GLM-5.3，743B参数模型，编程能力达开源SOTA。网络安全能力涌现，基准得分是GLM-5.2两倍多。全部提升来自后训练缩放，还自研Z.ai Code Bench评估，安全评估加固后权重将开源。
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。