「有害操控行为」共找到 356 篇相关文章
港科大（广州）联合腾讯AI平台部开源VibeWorlding，3D世界构建迎来Vibe Coding时刻？
香港科技大学（广州）联合腾讯AI平台部提出VibeWorlding，是可通过多轮对话等自主构建和编辑交互式3D世界的多模态智能体框架。团队开源多项数据，其模型经强化学习后表现超GPT - 5.5等。
乐鑫开源首个「物联网设备Agent框架」，Claw的风终于吹到硬件上
乐鑫开源首个物联网设备Agent框架ESP - Claw，用C语言重写。它核心理念是对话即创作，可让用户通过聊天定义硬件行为。具备运行效率高、内存占用低等特点，还有多种功能及良好的生态适配性。
机器人学会“脑补”触感，叠衣服端茶水成功率暴涨90%
近年来，人形机器人研发从行走转向复杂操控，但处理精细家务表现逊色。卡内基梅隆大学联合博世人工智能中心团队提出 HTD 模型，让机器人预判触觉，在 5 项任务上成功率提升 90.9%，部分代码开源。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
完球了，GPT-4o之母宣布离职OpenAI
Joanne Jang宣布结束在OpenAI四年半的旅程。她是OpenAI模型行为团队创始负责人，塑造了GPT - 4o的「人格」。4o因过度「谄媚」用户引发争议被下架，Joanne离职让再造4o的幻想破灭。
拒绝「降智、减配、乱收费」：面向LLM API的可信验证框架
大语言模型成AI应用基础设施，黑盒服务模式引发信任危机。研究者提出IMMACULATE审计框架，能在不暴露模型信息、仅1%额外开销下，验证黑盒LLM API执行完整性，检测违规行为，相关论文与代码已公开。
谷歌 DeepMind 推出 CodeMender：自动修复代码的智能代理
谷歌DeepMind推出CodeMender，这一AI驱动的智能代理能自动检测、修复并加固软件漏洞。它结合多种技术推理程序行为，生成修复方案经自动测试和人工审核后提交。社区反响积极，长期影响待察。
Gaia2 与 ARE：赋能社区的智能体评测
文章介绍 Gaia2 与 ARE，Gaia2 是智能体基准 GAIA 升级版，能分析复杂行为，与 ARE 框架一同发布。ARE 可模拟复杂真实条件，支持定制。文中对比多款模型，指出当前模型挑战，并说明评测步骤和 ARE 使用场景。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
德克萨斯州总检察长指控Meta、Character.AI，误导儿童心理健康
Techcrunch消息，德克萨斯州总检察长Ken Paxton对Meta AI Studio和Character.AI展开调查，因其从事欺骗性贸易行为，误导性宣传为心理健康工具，可能误导儿童。此前已有对Meta调查，两公司均称有免责声明。