「AI对齐训练」共找到 11191 篇相关文章
第六章 Coding优先编的是「过程与约束」,不是「参数」
本章以开面包店类比训练大模型，介绍 AutoResearch 自主实验框架。它将研究生助理工作循环交给 Agent，在固定时间用单一指标判断好坏。仓库获约 64.7K Stars，Karpathy 设计哲学为极简主义与固定约束。
OpenSandbox：重新思考 Agent 时代的 Runtime｜QCon 北京
4月16 - 18日QCon全球软件开发大会将在北京举办，聚焦Agentic AI时代软件工程重塑。阿里陶宇田将分享《OpenSandbox：重新思考Agent时代的Runtime》，结合阿里实践解析关键设计与经验，大会还有20多个专题论坛。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
The Batch: 891 | 用于科学发现的人工智能
Adji Bousso Dieng展望2026年，希望AI从‘提升效率的工具’变为‘推动科学发现的催化剂’。当前深度学习主导范式是‘插值’，难以应对数据分布‘尾部’，应转向能驾驭分布尾部的技术，把多样性作为核心目标。
自动驾驶公司，正在标配飞书
2025年自动驾驶行业快速发展，众多企业在知识沉淀和提效工具上达成共识，选择飞书。如地平线用其管理知识，Momenta借其打通研发流程，四维图新举办大赛挖掘提效案例，飞书成物理AI浪潮加速器。
Perplexiy声称想要天价收购Chrome的背后算盘
估值180亿的AI初创公司Perplexiy要花345亿收购Chrome，宣称保持代码开源、不更改默认搜索引擎等。其或想借谷歌反垄断麻烦套利，OpenAI也有收购意向，反映科技行业热衷接管旧基建现状。
ChatGPT大更新推出学习模式！“一夜之间1000个套壳应用又死了”
ChatGPT大更新，推出学习模式，像老师般引导思考，对多类用户开放。它由OpenAI与多方合作打造，结合学习科学成果。目前用提示词实现，未来会训练进模型，还将多方面改进，或重塑教育模式。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
2026苹果学者公布！20个席位华人占8席，西安交大校友上大分
苹果版「顶尖AI人才计划」公布2026年名单，20个席位华人占8席。该计划是Apple Scholars in AIML，为入选博士生提供资金、导师和实习机会。入选者研究多与苹果核心业务相关，苹果研究也从理论走向应用。
ChatGPT推出即时结账，比Claude发布重要得多
OpenAI宣布在ChatGPT推出即时结账功能，用户可在聊天界面直接购买，首批合作商家有Etsy，Shopify超百万商家将加入。由ACP驱动，是开源标准。资本市场反应好，社区反应不一，这标志AI助手向交易平台转变。