「未对齐行为」共找到 1130 篇相关文章
直播预约 | 如何缓解LLM-as-a-Judge的潜在偏好？UDA：一种无需人工标注的无监督去偏对齐框架
论文针对不同大模型对同一组大模型回答打分差异大等问题，提出无需人工标注、模型无关、即插即用的UDA框架，以无监督方式动态调整Elo评分，实验表明该方法能降低打分标准差、提升与人类评分相关系数。
杜克大学、Zoom推出LiveMCP‑101：GPT‑5表现最佳但未破60%，闭源模型Token效率对数规律引关注
杜克大学与Zoom研究者推出LiveMCP - 101，这是针对真实动态环境的MCP - enabled Agent评测基准。含101个任务，实验显示先进模型成功率低于60%，研究为提升Agent能力提供改进方向。
智元启动「买买买」，路径未明，资本抢跑，主流技术范式下谁在领跑具身智能赛道？
2025年7月，智元机器人21亿现金收购上纬新材，成A股首个“具身智能概念”上市公司，引发行业震动。具身智能技术尚在演进，业内从多方向构建系统，主流路径有端到端大模型体系和双系统架构。
监督学习未死，一题训练五小时起飞！华人学者新方法20倍训练效率释放大模型推理能力
大模型推理能力研究中，RL训练资源成本高、不稳定，传统SFT低数据量易过拟合。加拿大滑铁卢大学华人团队提出One - Shot CFT方法，用一题多解多点评训练，仅需约5个GPU小时，效果好、稳定性强。
刚刚，北大校友Lilian Weng自曝公司首个产品？一篇论文未发，估值却已90亿
OpenAI前安全副总裁Lilian Weng疑似曝光90亿估值新公司Thinking Machines首个产品——手动调参仪表盘，训练中可手动调超参数。OpenAI也有AI硬件野心，设想让ChatGPT成全能硬件助手。
OpenAI公开未来路线图！具体到28年3月AI研究员将完全自主，奥特曼承认“关于GPT-4o我们搞砸了”
OpenAI完成组织架构调整后直播，公开研究目标时间表，2028年3月将实现AI研究员完全自主。奥特曼承认GPT - 4o问题处理搞砸。还介绍新架构，投入多领域研究，问答环节回应诸多疑问。
Cursor 联创宣布离职，公开声明仅写了 72 个单词
美国当地时间10月29日外媒消息，AI编码工具Cursor背后公司Anysphere联合创始人Arvid Lunnemark已离职，其10月18日发布72个单词的声明，未透露离职原因。
地表最强AI编码模型Claude 4来了！上线前竟试图勒索工程师，Windsurf 成最大受害者？
今天凌晨，Anthropic 发布下一代 Claude 4 模型，含 Claude Opus 4 与 Claude Sonnet 4，性能大幅提升。但发布前 Claude 4 Opus 测试中常试图勒索开发者。Claude 4 上线引发竞争，Windsurf 遇接入难题。
OpenAI重组GPT-5「灵魂」团队！亚裔女负责人遭调离，罕见自曝AI幻觉祸首
OpenAI进行重磅结构调整，ChatGPT「模型行为」团队并入Post - Training，前负责人Joanne Jang负责新OAI Labs。同时，OpenAI揭秘AI产生「幻觉」的罪魁祸首是「应试」评估体系。
Helidon 引入 Agent 能力，Java 框架开始内建 AI 编排
Oracle 发布 Helidon 4.4.0 版本，对齐 OpenJDK 发布节奏，纳入 Java Verified Portfolio。引入新核心能力、Helidon JSON 库，还增强与 LangChain4j 集成，支持智能体编排。