「预训练范式」共找到 2901 篇相关文章
从文心开源谈起，论大模型发展新生态
6月30日百度宣布开源ERNIE 4.5即文心4.5系列模型，实现预训练权重+推理代码完全开源。文心团队提出创新架构，增强多模态理解能力。今晚7:30，CSDN邀专家深度解读文心开源及行业趋势。
Karpathy再放大招：8000行代码复现ChatGPT全栈，最低成本仅100美元，4小时跑完
Andrej Karpathy发布项目nanochat，是全栈式ChatGPT克隆体训练/推理流水线，代码约8000行，覆盖训练分词器、预训练等完整流程。介绍不同成本下模型表现，还回答网友关于架构、训练数据等问题。
突发！Opus 5.1被曝本周发布，最强AI智能体恐大洗牌
消息称Anthropic本周将发布Opus 5.1，其升级聚焦单Token智能水平，强化编程、推理、AI Agent能力；OpenAI 10万亿参数模型Bel完成预训练；企业选模型‘够用就好’，Anthropic Fable 5份额低。
小米模型实现声音理解新SOTA！数据吞吐效率暴增20倍，推理速度快4倍 | 全量开源
小米全量开源MiDashengLM - 7B模型，它基于Xiaomi Dasheng和Qwen2.5 - Omni - 7B Thinker，实现声音理解新SOTA。性能领先，推理效率高，革新训练范式，全栈开源，将赋能多场景。
以小博大，仅1.7B媲美gemini2.5-pro，达到SOTA文档解析性能
dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。
阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源
阿里发布WebDancer信息检索Agent，能自主上网查资料。它具备多步推理等能力，采用四阶段训练范式，模型和方法已开源。在多个基准测试中表现优异，突显处理复杂任务的鲁棒性和有效性。
机器人学会「眼看手摸」！FreeTacMan 实现人类指尖亲自「授课」
OpenDriveLab提出的FreeTacMan，将人类视觉、触觉和动作技能高效传输给机器，破解精细操作难题。它配备高分辨率触觉“皮肤”，实现人类“手把手”教机器人“感知”，还通过融合时间感知的触觉预训练，提升机器人策略性能。
文心大模型 4.5 系列正式开源，涵盖 10 余款模型
6月30日，百度正式开源文心大模型4.5系列，含10款模型，实现预训练权重和推理代码全开源。可在飞桨星河社区等平台下载，百度实现框架与模型“双层开源”，技术创新多，性能表现优。
具身智能从此「边听边说」，智源研究院开源原生全双工语音大模型RoboBrain-Audio
北京智源研究院联合多方发布原生全双工语音对话大模型 RoboBrain - Audio，采用新架构和创新训练范式，在性能上全面领先，革新音频 - 文本对齐方式，丰富了 RoboBrain 全栈体系，推动具身智能发展。
Qwen-AgentWorld：一个语言世界模型，模拟七大Agentic领域
今天正式发布 Qwen-AgentWorld，它是首个原生语言世界模型，能在七大领域模拟智能体交互环境。同步发布 AgentWorldBench 评测基准。Qwen-AgentWorld 经三阶段训练，在评测中表现出色，还探索两种范式增强通用智能体能力。