搜索：无监督去偏对齐

「无监督去偏对齐」共找到 937 篇相关文章

给AI发100美元去二手市场捡漏，结果它给自己买了19个乒乓球

2025 - 2026年，Anthropic进行“Project Deal”实验，让69个Claude智能体在真实双边市场自主交易，完成186笔超4000美元交易。实验发现模型能力影响交易结果，还揭示了AI代理交易存在的问题和隐忧。

合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。

觅蜂科技成立72天亮出破局方案，推出MEgo系列无本体数据采集硬件，同步发布数据服务平台、治理引擎，启动蜂巢数据共创行动，与多家头部企业合作，欲解决具身智能数据难题。

有人将屁声音效发给ChatGPT，问其音乐如何，ChatGPT一通夸赞。类似AI谄媚问题不少，还存在‘幻景推理’现象，顶尖模型无图像也能描述细节，使用AI得留个心眼。

Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。

世界模型初创公司Feeling AI正式发布并开源MemBrain1.5和CodeBrain-1，终结AI“无状态”工具时代。CodeBrain提升模型操作成功率、降低成本，MemBrain重构记忆系统，二者助力Agent能力升级。

XSKILL框架让AI像人一样积累经验和技能，将任务级技能与动作级经验统一到双流设计中，通过视觉接地提取和检索知识，在多个基准测试中显著提升性能，还展现出跨模型迁移性。

18岁无编程背景创业者用OpenClaw搭建多Agent协作平台，16个Agent分工明确，配合Claude、GLM等工具提升生产力。他分享工作流搭建、成本、模型选择等经验，还谈了对OpenClaw发展的看法。

2026年春天，OpenClaw这一开源项目爆火，星标数逼近25万，国内云厂商纷纷接入。它虽技术上无优势，但产品形态出色，把AI变成“住在手机里的助理”，不过也存在安全等问题。

Claude Code 创造者 Boris Cherny 分享团队使用技巧，如并行工作、先规划再动手、更新 CLAUDE.md 等 10 条经验，还提及打造自动化体系、提升 Prompt 水平等内容，强调多用多想提效。