「对齐风险」共找到 728 篇相关文章
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
直播预约 | 如何缓解LLM-as-a-Judge的潜在偏好？UDA：一种无需人工标注的无监督去偏对齐框架
论文针对不同大模型对同一组大模型回答打分差异大等问题，提出无需人工标注、模型无关、即插即用的UDA框架，以无监督方式动态调整Elo评分，实验表明该方法能降低打分标准差、提升与人类评分相关系数。
AI教父Geoffrey Hinton：AI将使少数人变得更富，多数人则变得更穷
AI教父Geoffrey Hinton接受FT采访表达四个观点：AI在现行资本主义体系会加剧贫富分化；对人类有短期和长期生存威胁；提出“母婴模型”控制AI；呼吁摒弃盲目乐观，严肃对待AI风险。
"故宫以东"开启硬核法律讲座，帮助企业提升AIGC版权意识
AI创作大热时，8月13日“故宫以东”平台法律顾问朱子萌开设知识产权法律在线讲座，讲授著作权法“作品”、AIGC作品版权性、输入语料侵权风险等内容，助力企业提升版权意识。
AI 数据平台，要补的恰恰是“模型不知道的事”
本文针对企业落地AI Agent遇到的知识口径不一、推理慢、风险不可控等痛点，介绍华为AI数据平台三大升级路线，结合案例说明方案价值。
Helidon 引入 Agent 能力，Java 框架开始内建 AI 编排
Oracle 发布 Helidon 4.4.0 版本，对齐 OpenJDK 发布节奏，纳入 Java Verified Portfolio。引入新核心能力、Helidon JSON 库，还增强与 LangChain4j 集成，支持智能体编排。
AI来了，职场逻辑也变了
AI到来使职场规则和逻辑改变，作者给出三条判断：公司人才观变为宁缺毋滥、优先筛选；主观能动性价值放大；纯管理岗位风险上升，建议管理者回一线结合AI做业务。
Linus 之后的 Linux？内核社区终于写下“接班预案
Linux内核社区起草项目连续性计划，以防Linus Torvalds意外或退休。计划未指定唯一继承人，明确选择流程。虽Torvalds暂无退休打算，但“Linus依赖”风险终有处理流程。
Andrej Karpathy最新暴论：这类软件正走向绝境，PS首当其冲？
Andrej Karpathy认为，人机协作时代，复杂UI、缺脚本支持、基于自定义二进制格式的软件前景堪忧。他按风险等级列举不同软件，还强调不主动改造的产品处境艰难。
Uber Hive 联邦架构：1.6 万数据集、10PB 数据去中心化，支撑大规模分析零停机
Uber重新设计Hive数据仓库，将超16000个数据集、超10PB数据去中心化部署，解决可扩展性等挑战。采用基于指针方案迁移，系统含四大组件降低运营风险，还减少存储开销，提升生态弹性。