「未对齐行为」共找到 1130 篇相关文章
AI 互动游戏的 GPT 时刻到了！谷歌Genie 3首测！太牛了！
谷歌去年发布世界模型Genie 3，支持实时生成可交互视频内容，因成本高未开放。现美国18岁以上Ultra用户可试玩，其操控延迟低、画面清晰、物理交互真实，还介绍了操作流程等。
大模型哪里出问题、怎么修，这篇可解释性综述一次讲清
来自多机构的研究团队发布“可实践的机制可解释性”综述，通过 'Locate, Steer, and Improve' 三阶段范式，为大模型的对齐、能力增强和效率提升提供方法论，还梳理可解释对象体系和干预手段。
Zed 为什么不用自己造 Agent？OpenAI 架构师给出答案：Codex 重划 IDE × Coding Agent 的分工边界
文章围绕Coding Agent展开，介绍其构成、构建Harness的挑战，还阐述Codex作为集成系统优势、使用方式及未来发展。强调将模型与Harness共同开发，能更好理解模型行为，Codex可助力构建差异化产品。
刚刚，智谱正式成“全球大模型第一股”，开盘涨超3%！10位董事7个清华背景，专家：国内IPO抢收“确定性”，OpenAI们豪赌“无限性”
今日，智谱在港交所挂牌上市，成“全球大模型第一股”。其有技术、产品、商业化优势，但未盈利，研发投入高。专家认为其上市早，国内厂商上市为求确定，而OpenAI等是扩展无限。
必须得让AI明白，有些不该碰的东西别碰（doge）
近期类o3模型在视觉推理任务表现优异，但陷入‘盲目用工具’状态。港中文MMLab等团队提出AdaTooler-V模型，具备自适应工具使用能力，还引入指标、算法，构建数据集，在多基准测评中优势明显。
解决Agent幻觉：HaluMem精准定位记忆系统的“说谎”环节！
近年来，LLM和Agent在记忆管理上存在挑战，现有评估方法无法定位幻觉来源。论文提出HaluMem评估基准，通过三大任务和两个数据集揭示记忆系统幻觉行为，为开发可靠记忆机制提供指导。
Qwen“半成品”推理模型刷下AIME满分，俘获大批国外开发者！实测碾压GPT-5 Thinking、还能写侦探小说
阿里发布 Qwen3-Max-Thinking 早期预览版，虽是‘半成品’，在数学推理竞赛中达 100% 正确率。Qwen3-Max-Preview 多项测试领先，速度超 ChatGPT，还成 AnyCoder 默认选项，但未开源。实测表现有优有劣。
字节Seed团队发布循环语言模型Ouro，在预训练阶段直接「思考」，Bengio署名
现代LLM依赖显式文本生成训练“思考”，未充分挖掘预训练数据潜力。字节Seed团队联合多家机构推出循环语言模型Ouro，将推理能力构建到预训练阶段，实现参数效率提升，还降低了有害性。
产品还是个文件夹，投资人抢着砸钱：只因她是「前OpenAI」？
过去一年，OpenAI掀起离职潮，前员工们在组织外重新排列、复制核心人脉、资金与声誉，形成‘OpenAI黑手党’。他们创办的企业产品未出，估值却飙升，‘OpenAI出身’成融资通行证，‘算法资本主义’正形成。
英伟达不是被计划出来的
英伟达成全球首个市值破5万亿美元企业，打破企业体量天花板想象。其GPU起初为游戏而生，CUDA曾是失败项目，却因深度学习需求成AI关键。其崛起证明伟大难被计划，创新源于多元互动。