「预训练时代」共找到 3311 篇相关文章
Thinking Machines新发现：Lora不是权宜之计，哪怕秩低到 1，也能匹敌全参数微调
Thinking Machines和John Schulman新研究刷新对LoRA的认知，实验显示正确使用时它能匹敌全量微调。团队系统研究训练集与参数关系，有层选择、学习率等关键发现，还给出实用建议，但LoRA在部分场景表现待验证。
2025 的企业 AI 市场， Data &AI 占据主流视野
数据是 AI 模型学习和训练的基础，Data & AI 基础设施可打通数据与 AI 全链路。企业应用 AI 不应只关注算法和算力，还需重视私域数据。同时介绍了不同类型企业在 Data & AI 领域的特点及合作成本等内容。
有生之年吃到了钉钉的细糠
作者参加“2025 钉钉十周年暨新品发布会”，体验了钉钉 8.0 版本。该版本开启 AI 1.0 新篇章，界面焕然一新，以钉钉 One、AI 搜问等重塑工作流程，还升级语音智能硬件，实现信息处理闭环，提升企业与员工效率。
究竟会花落谁家？DeepSeek最新大模型瞄准了下一代国产AI芯片
近期，DeepSeek发布V3.1新模型，采用全新混合推理架构，在多任务表现上有提升。它采用UE8M0 FP8，或为国产推理芯片优化机制。国内多家厂商新一代AI芯片支持FP8，未来国产大模型或针对其专门优化。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
ACM MM 2025 | 小红书AIGC团队提出风格迁移加速算法STD
小红书AIGC团队提出风格迁移加速算法STD。现有一致性模型在风格化任务有缺陷，文章提出从部分噪声状态出发的训练框架STD，设计轨迹状态库减轻计算负担，引入非对称对抗损失增强风格一致性，实验显示其效果优。
醒醒吧！CEO猛吹AI写95%代码，绩效考核却还在拼程序员手速？
本文是对 Superhuman 工程负责人 Loic Houssier 的深度访谈。他分享了 AI 时代团队管理、开发流程、绩效评估等方面的变化，指出 AI 虽提升效率，但在质量评估、人才适配等方面仍需探索，还强调观望 AI 发展会有职业风险。
vivo发布端侧多模态模型，只有3B可理解GUI界面，20项评测表现亮眼
vivo AI Lab发布端侧多模态模型BlueLM - 2.5 - 3B，融合文本与图文能力，支持长短思考模式切换。它在20余项评测中表现出色，参数量小，训练和推理成本低，有精巧结构、高效策略，还有高质量数据和高性能平台支撑。
今年最难的机器人Demo，“机器人含量”为0
自变量发布全新灵巧操作系统TwinDex，后训练阶段真机遥操数据为0，机器人就能完成多项精细操作。该系统设计有灵巧性、一致性和可扩展性，降低了对真机遥操数据的依赖，使高质量数据与真机遥操的强绑定松动。
突发：SpaceX 或 600 亿美元收购 Cursor
SpaceX官宣与Cursor合作，打造编程和知识工作AI。Cursor授予SpaceX今年晚些时候以600亿美元收购的权利，或支付100亿合作费。Cursor增长快但无自研模型，合作可助其训练模型。此外还介绍了编程AI市场竞争情况。