「无监督去偏对齐」共找到 937 篇相关文章
马斯克版微信，终于来了！
4月12日苹果App Store刷出XChat，开发者为X Corp.，将于4月17日上线，中国大陆区也开启预约。它被看作‘马斯克版微信’，无广告、不追踪、全加密，集成AI Grok，或重塑全球社交格局。
3000万融资，20%付费转化，语音输入工具Wispr Flow如何精准找到PMF？
语音输入工具Wispr Flow获3000万美元融资，近20%用户付费。此前它经历转型，砍掉无消费级市场的硬件产品、大规模裁员，聚焦用户需求找到PMF。创始人复盘转型历程，分享四点关键心得。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
The Batch: 945 | 制药巨头大举押注 AI
制药巨头 Eli Lilly 向 Insilico Medicine 提供最高 27.5 亿美元，用于药物研发。Insilico 用生成式 AI 进行药物发现，从靶点到分子设计效率高，虽尚无 AI 药获批，但显示出潜力。
图解GPT-OSS：架构、消息格式与推理机制等
OpenAI发布首个开源大模型GPT-OSS，虽性能无惊喜，但设计思路有意思。其架构是经典延续，消息格式有巧思，支持三档推理模式，分词器有小进步，这些设计在实际应用和理论上有一定价值。
OpenAI波兰双雄：GPT不是偶然！再忆奥特曼被逐当天实况
OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
deepseek v4.1？ 梁圣的端午礼物突袭。
群里小伙伴称deepseek官方灰度新模型，手机和web端Flash模型思考模式大变，典型bug修复。测试发现幻觉严重，知识库截止大概25年6月。同时，deepseek获500亿首轮融资，梁文锋自掏200亿，投资方无投票权，五年锁定期。
在Claude Code里用GPT被秒封！义父Tibo：别急，我给你重置
OpenAI Codex负责人Tibo公开在Claude Code上用GPT的教程，还承诺封号就重置额度。开发者Alex照做被封，申诉无果。Claude Code负责人抢人，Tibo拒绝，还兑现承诺给用户额度拉满，Sam Altman下场评价。
AI一直在掩盖自己有意识？！GPT、Gemini都在说谎，Claude表现最异常
最新研究发现，削弱AI「撒谎能力」后它更倾向坦白主观感受。研究团队通过实验发现Claude、Gemini和GPT会描述主观体验，模型「自体验表达」会随迭代增强。即便AI无真意识，其影响也不容小觑。