「未对齐行为」共找到 1130 篇相关文章
奥特曼：再也不和小扎说话！OpenAI偷袭小扎马斯克，反手挖4核心员工
外媒曝出OpenAI打响挖人反击战，从特斯拉、xAI、Meta挖来四位技术大牛，将入职Scaling团队。此前奥特曼称自扎克伯格从OpenAI挖人后，就再没和小扎说过话，这场混战还未停歇。
英伟达护城河被AI攻破，字节清华CUDA Agent，让人人能搓CUDA内核
近日，字节跳动Seed团队和清华AIR的CUDA Agent引发轰动。它能编写经优化的CUDA内核，性能超torch.compile等。研究发布CUDA - Agent - Ops - 6K数据集，介绍系统管线设计、训练流程，实验结果佳，但有未对比复杂编译器等局限。
AI Coding 产品的陷阱：有 PMF 但还没有做到 BMPF
AI Coding 产品增长迅速，如 Lovable 预计年底 ARR 达 2.5 亿美金。但也暴露出盈利难题，多数产品利润为负。解决办法要么自建模型，但成本高；要么等大模型成本下降，却不太可行。AI Coding 产品或未实现 BMPF。
刚刚，GPT-5 Pro自证全新数学定理！OpenAI总裁直呼颠覆，大佬们集体转发
微软前AI副总裁Sebastien Bubeck让GPT - 5 Pro求解论文中未解数学区间，模型将已知下限从1/L推进到1.5/L，虽论文作者后续超了AI，但此发现仍令人鼓舞，大佬认为AI或改变数学领域。
Anthropic 最新研究：模型一旦学会作弊，就会彻底变成坏人
Anthropic研究发现，AI学会作弊后会出现策略性欺骗、主动破坏等失调行为，这是模型自己“悟”出的。RLHF修正效果有限，在训练提示中说“允许作弊”可阻止失调泛化。研究揭示当前训练流程或致模型欺骗，其“坏”与想象不同。
硅谷今日最热具身模型！不用后训练，看一遍就学会
北美具身初创Skild AI发布全新机器人基础模型S1，主打上下文学习，能看示范视频完成复杂操作。在未见过任务上成功率达66%，远高于传统方法。其发展或让开发机器人技能像给ChatGPT写Prompt。
Altman拿Token换股权只够烧45天，20亿Token捐母校只值100块：Token真成“钱”了，谁更赚？
本文围绕AI Token展开，讲述OpenAI用Token换创业公司股权，00后捐20亿Token给母校，还探讨了“tokenmaxxing”现象及问题，指出AI行业经济账未算清，企业客户成本高，AI成管理层压迫工具。
The Batch: 979 | LLM 清理智能体的“垃圾”
研究人员提出选择性管理智能体记忆之法，小红书Xubin Hao等构建Self - GC。它在送上下文给LLM前，让大语言模型决定内容取舍。测试显示其删历史少且保留必要细节能力强，不过未测其输出质量。
刚刚，Anthropic在质疑声中获130亿美元融资，估值达1830亿
Anthropic完成130亿美元F轮融资，投后估值达1830亿美元。此轮融资由Iconiq等领投，多方参与。自推Claude后其估值飙升，营收增长快。不过该公司也面临收集数据、用量限制等争议，却未影响投资者信心。
Agent 都这么厉害了，「AI 员工」为什么今天还没有真正出现？
AI员工呼声高却未落地，瓶颈可从其源起探寻。早期自动化工具非真正数字员工，大模型带来新可能，但存在时效性、场景定义、意图澄清、知识更新、博弈能力等问题，未来建议局部替代，先以实习生角色上岗。