「未对齐行为」共找到 1174 篇相关文章
17岁Kimi前研究员陈广宇被曝投奔Jeff Dean创业团队，新公司正寻求500亿美元估值
本文爆料17岁原Kimi核心研发成员陈广宇加入谷歌前首席科学家Jeff Dean创办的AI初创公司Discovery Loop，该公司尚未推出产品就寻求500亿美元估值，同时梳理了陈广宇的传奇AI成长经历。
Transformer死角，只需500步后训练，循环模型突破256k长度泛化极限
线性循环模型能处理极长序列，是相比Transformer的关键优势，但过去循环模型性能不足且难以泛化。CMU等研究者证明，通过简单训练干预，循环模型500步后训练可突破256k长度泛化极限。
Anthropic承认模型降智后仍放任其偷懒？Claude Code用户信任崩塌中
此前大模型厂商未正面承认‘降智’，OpenAI 研究科学家称是心理错觉。但 Anthropic 公开承认旗下 Claude Opus 4.1 和 Opus 4 质量降级，然而问题未解决，Claude Code 用户信任崩塌，纷纷转向 GPT - 5。
华人团队让AI把表格“翻译”成问题，检索速度×5
表格检索在RAG里是小众问题，传统表格问答系统有Retriever和Reader组件，关键是对齐表格与问题语义。QGpT能生成模拟问题，使表格语义更丰富、对齐更准确，分离线、在线阶段，训练后可提升检索收益。
16 个月、45 万资金投入，一款 AI 社交产品的创业失败复盘
作者复盘AI社交产品“抱抱窝”创业失败经历，涉及方向选择、团队搭建、时间资金把控、团队沟通等问题，还给出经验建议，如选方向要有标准，团队开发股份占比应合理，明确时间表等。
生成的世界也能交互！牛津大学&莫纳什大学&布里斯托大学等团队提出交互式视频世界模型Oneira
本文介绍牛津、莫纳什、布里斯托等多校团队提出的交互式视频世界模型Oneira，解决现有模型交互错配、状态易丢失的缺陷，实验效果优于现有主流基线模型。
让龙虾看懂屏幕！谷歌多模态新成果，文本图像视频音频进同一空间
谷歌发布首个原生多模态嵌入模型Gemini Embedding 2，将文本、图像、视频、音频和文档映射进同一嵌入空间，支持多模态混合输入，为AI Agent“看懂”世界提供关键基础，已展开公测。
智商276的世界第一持有者，正式向马斯克申请加入Neuralink！
韩国人YoungHoon Kim自称智商276，公开向马斯克发加入Neuralink的“求职信”，介绍其开发的认知增强软件及商业模式，网友反应不一，同时文章探讨了其智商数值的可信度。
比Sora更疯狂！英伟达AI让机器人「做梦」修炼，无师自通直接上岗
英伟达新研究项目DreamGen用视频生成模型让机器人在神经网络生成的「梦境世界」自主探索学习。它能让机器人掌握新动作、泛化到新环境，合成数据暴涨333倍，还引入DreamGen Bench用于视频生成基准。
TikTok SRE 技术负责人：AI Agents 说到底就是分布式系统
本文整理自TikTok SRE技术负责人Salman Munaf的公开演讲，提出AI Agent具备调用外部服务、执行状态变更能力后，本质就是分布式系统，需运用分布式系统领域成熟经验规避风险、保障安全可靠。