「AI对齐训练」共找到 11171 篇相关文章
自动化评测的九九归一——评测agent
本文提出统一评测Agent架构，实现评测全链路自动化。它能学习标注标准，完成自动标注等工作。还介绍架构、解耦方法、模型优化及训练方案，解决多模态幻觉等问题，提升机审率，节省标注成本。
“养团队造语言”时代终结？Rust传奇人物用Claude造出新开源编程语言，AI写下万行代码：大模型上限很高，我学会了高效用它！
Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。
Sebastian Raschka 新书《从头开始推理》抢先看，揭秘推理模型基础
著名AI技术博主Sebastian Raschka新书《Reasoning From Scratch》第一章介绍LLM中推理含义、训练阶段、模式匹配与逻辑推理区别，还讲述提升推理能力方法及从头构建推理模型的重要性等内容。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
Nature Machine Intelligence｜不只是「像大脑」，人脑信号还能直接引导语言模型进行鲁棒推理
本文介绍发表于Nature Machine Intelligence的最新研究，系统探究语言模型与人脑推理表征的对应关系，验证人脑信号可引导提升语言模型推理鲁棒性，为脑启发AI提供了新研究路径。
马斯克彻底向ASI投降！10年后万亿财富都将「归0」
2026年7月23日，马斯克接受《经济学人》总编专访，给出AI发展时间线，称5年内AI智力超人类总和，10年内金钱无意义。他曾是AI末日论者，如今态度转变，还提出AI安全治理方案。
从答题到做实验：SciAgentGym让大模型进入科学工作流
复旦大学NLP实验室提出SciAgentGym，为科学智能体搭建工作流环境，还设计了评测集SciAgentBench。实验显示模型接入工具能提升成功率，但长流程任务性能下降。论文还提出SciForge构建训练数据，提升了模型表现。
全新唇同步技术OmniSync，遮挡，侧脸不在话下
唇同步对创建逼真视频内容很重要，但现有方法在身份一致、姿势变化等方面有局限。中国人大携手快手提出OmniSync，引入无需掩膜的训练范式，保证身份和姿态一致，能适应复杂场景，还建立AIGC - LipSync基准。
“千问奶茶”在二手平台6元转售；追觅俞浩：年终奖最高20个月奖金，总量会达到10亿级；京东001号快递员：退休金4000多，存款百万｜AI周报
这是一份AI周报，涵盖行业热点、大模型发布等多方面信息。有追觅俞浩高额年终奖计划，马云现身阿里千问项目组引发‘千问奶茶’活动热潮，还有域名交易、企业收购、模型发布及应用等动态。
刚刚，OpenAI开放GPT-4.1偏好优化DPO，ChatGPT能真正学会你的「品味」了！
OpenAI宣布GPT - 4.1全系列模型支持DPO微调，可让AI通过对比回答学会用户偏好。介绍了DPO原理、适用模型、数据格式、创建任务方法等，还提及开发者反应与技术要点。