「AI对齐训练」共找到 10964 篇相关文章
我潜伏进了"年入百万"的AI自习室，发现了一些灰色的秘密。
作者潜伏进AI自习室，发现其生意火热。AI学习机功能普通，价格却高，主要卖点是内置课程。AI督学职责是托管和销售。AI自习室盈利宣传有水分，实则钻政策空子赚教育焦虑的钱。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
救命！和漫画角色聊上头了，AI陪伴的新答案有了
快看漫画2.0版本推出AI陪伴互动漫画，将AI嵌入漫画角色，玩家以第一视角改写故事。它解决了AI陪伴产品痛点，靠共同经历和叙事上下文存续关系，还集成多家AI技术，内测数据显示有商业潜力。
神隐许久的光年之外，造了款AI浏览器Tabbit，能打吗？
浏览器成AI落地重要战场，巨头纷纷布局。光年之外推出Tabbit AI浏览器，集多种功能于一体，深度融合AI能力，已开启公测。实测其功能实用，虽有不足但已改变使用习惯，AI浏览器或重塑人与信息关系。
微软开源3大突破AI Agent模型，仅140亿参数超越DeepSeek-R1
微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。
OceanBase湖库一体，重新定义AI数据库
AI时代数据库面临变革，使用者从人类应用扩展到Agent，管理的数据和承载的工作负载也发生变化。OceanBase坚持一体化设计，发布湖库一体的AI数据库，解决AI生产系统的数据基础设施问题。
调整训练数据出场顺序，大模型就能变聪明！无需扩大模型/数据规模
微软亚洲研究院提出全新文本数据组织范式DELT，通过引入数据排序策略，充分挖掘训练数据潜力，优化训练数据的组织方式，在不同模型尺寸与规模下都达到了良好性能，且不用增加数据量或扩大模型规模。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
为什么 AI 搞不定体力活——对话清华大学刘嘉：这才是生物智能最难攻克的“万里长征” | 万有引力
本文是对清华大学刘嘉教授的访谈。他回顾 AI 研究经历，谈 AI 寒冬、研究错误及第一性原理，还分析学术界与工业界差异、AI 现状与挑战，指出大模型缺创造力，人应与 AI 共进化。
AI4Science 图谱，如何颠覆10年 x 20亿美金成本的药物研发模式
文章指出AI for Science让生命科学与数字互联网融合，加速科学发现。以四象限为框架，梳理了Biology Foundation Model、AI Scientist等玩家，介绍相关模型和公司，展示其对药物研发流程的重塑。