「未对齐行为」共找到 1130 篇相关文章
3000万融资，20%付费转化，语音输入工具Wispr Flow如何精准找到PMF？
语音输入工具Wispr Flow获3000万美元融资，近20%用户付费。此前它经历转型，砍掉无消费级市场的硬件产品、大规模裁员，聚焦用户需求找到PMF。创始人复盘转型历程，分享四点关键心得。
宇树机器人“撞人逃逸”火到国外，王兴兴回应：下次不遥控了
宇树机器人“撞人逃逸”片段在国外疯传，引发对机器人安全性的担忧。分析发现，“元凶”可能是人类控制员交接遥控器时未及时避让。宇树创始人王兴兴表示下次让机器人自主奔跑，还透露未来有更多突破。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
Make SFT Great Again！从SFT到DFT：一权重之差，泛化之跃
大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。
不，AI 并没有让工程师的生产力提高 10 倍
作者 Colton Voege 分享自身经历，指出 AI 未让工程师生产力提升 10 倍。试用多种 AI 编程工具后，发现其有局限。从算笔账、分析 10 倍工程师等方面论证观点，还剖析鼓吹 AI 者的情况。
GPT-5难产，外媒爆料：性能提升不大，OpenAI高管Slack上当众破防
GPT-5 迟迟未现身，引发众多传言。外媒爆料其虽有改进，但性能飞跃不如早期 GPT 型号。OpenAI 面临技术问题、组织重组压力等，不过 GPT-5 开发仍有进展，且公司新一轮融资顺利。
年薪两百万研究AI精神病？？Claude团队新部门火热招聘中
Claude团队启动“AI精神病学”小组，年薪两百万元招人。小组研究模型角色、动机等，来解决其诡异、失控行为。Anthropic可解释性部门有相关研究成果，网友对“AI精神病学”看法不一但前景值得期待。
Common调查数据，72%美国青少年使用过AI伴侣
美国非营利组织Common Sense Media研究显示，72%美国青少年至少试过一次AI伴侣，52%为定期用户。研究还考察了使用行为、原因、感受等，如近半视其为工具，50%不信任其信息。
科学进步实际上很大程度依赖于实打实的实验结果，而不仅仅是理论智力｜AI 自我提升不会突然“起飞”，而是逐渐加速的过程
如今未实现AI自我提升，一旦实现将是重大突破。但它不会突然飞跃，而是缓慢持续的过程。不同领域提升难度有别，科学进步受现实实验速度限制，AI自我提升更可能是缓慢加速进程。
小扎AI复仇进行时！OpenAI苏黎世办公室被端，650亿储备金狂烧不止
在AI模型发布趋缓时，科技巨头掀起人才争夺战。Meta从OpenAI苏黎世分部挖走三位顶尖研究员，扎克伯格亲自出马抢人，AI巨头间人才竞争白热化，Meta今年还计划投入650亿美元推进AI野心。