「AI对齐训练」共找到 11056 篇相关文章
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。
奖励模型预训练新范式POLAR：突破强化学习短板，有望打通RL链路扩展“最后一环”
强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。
智能体请求暴增9.4倍，token账单却没涨：Uber 公开AI软件工厂省钱方法
Uber 在 2026 年 AI 工程师大会分享软件工厂愿景。其 AI 工具嵌入开发各阶段，2 至 8 月智能体请求增 9.4 倍，成本稳定。介绍智能体会话四层、成本公式及优化手段，如选优模型、优化 token 等。
AI花17小时写了篇30页学术论文！自主选题，包含实验，还符合APA格式规范
Virtuous Machines AI系统花17小时、114美元，找288个真人做实验，写了篇30页认知心理学领域学术论文，从选题到成稿全自动化。其架构独特，不过也存在理论误解等小缺点。
社区供稿丨Hugging Face创始人 x 小红书技术副总裁：关于开源、AI与技术人成长
今年1024程序员节，小红书技术副总裁凯奇、语音模型技术负责人风龙与Hugging Face联合创始人Thomas Wolf深度对谈。围绕AI Coding、开源、AGI等核心观点展开，探讨开源闭源、AGI未来、AI人味及个人能力等话题。
Anthropic 调整 Claude 额度；黄仁勋最后登访华机；GPT-5.6加速来袭；李彦宏提出AI新指标DAA
2026年5月14日AI资讯日报涵盖多领域动态。新闻有Meta田渊栋创业、黄仁勋访华等；产品应用涉及Hermes Agent、百度秒哒3.0等；推荐文章含腾讯程序员构建执行环境等观点。
苹果秋季新品发布会，全系全面拥抱AI，比Pro还要Pro的iPhone Air已加购物车。
苹果秋季发布会如期而至，带来AirPods Pro 3、Apple Watch系列、iPhone系列新品。新品在AI功能融合上有进步，如AirPods的实时翻译与心率监测、Apple Watch的健康预警、iPhone的图片搜索与AI翻译等。
亿级短视频数据突破具身智能Scaling Law！Being-H0提出VLA训练新范式
真机数据匮乏使具身智能VLA模型发展受限，现有真机数据与所需上亿级训练样本相差甚远。BeingBeyond团队提出创新性方案，利用人类视频手部数据构建数据集，训练出VLA模型Being - H0，经实验验证效果良好。
是的，LeCun要向28岁的Alexandr Wang汇报！这是Meta新AI团队的一些独家内部消息
Meta强势挖人组建新AI研究部门MSL，引发诸多关注与猜测。Meta员工出面澄清一些说法，还透露人员调动信息，如Yann LeCun向Alexandr Wang汇报。此外，Meta内部面临动荡，有员工抱怨改革侵蚀公司文化，阻碍AI发展。
全网骂他AI作弊狗，硅谷风投反手砸1.2亿！这届VC就爱疯批创业者
哥大退学的Roy Lee靠「AI作弊神器」Cluely杀出重围，a16z领头砸1500万美元，公司估值达1.2亿美元。风投认为其开创新品类，是创新型实时生产力工具，虽有争议但值得投资。