搜索：人类偏好对齐

「人类偏好对齐」共找到 1411 篇相关文章

OpenClaw创始人：80%的应用会消失，花哨的AI工作流只会生产垃圾，工程思维才是超能力

OpenClaw创始人Peter Steinberger表示，OpenClaw这类AI助理将取代手机上80%的应用。他分享OpenClaw诞生过程，其能远程修复Bug等。他还批判花哨AI工作流，认为人类品味不可或缺，建议学习AI要去玩。

传统大模型有“健忘”问题，哈工大《AI Meets Brain》研究借鉴人类记忆机制，为AI智能体打造强大记忆系统。研究涵盖核心洞察、记忆形态、分类框架等内容，还探讨了记忆赋能方式及未来发展方向。

DeepSeek开源OCR模型，探索用多少视觉信息让LLM理解文本。实验表明1000字文档约需100个vision tokens，压缩比10倍、准确率97%。还提出模拟人类遗忘等想法，有多种应用场景，且完全开源。

Anthropic公布Claude Code黑客松六强作品，包括虚拟诊室、电路板维修工具、编程教学平台等。这些项目来自不同职业背景的人，用Opus 4.7 + Claude Code完成，将专业知识转化为工具，传承人类经验。

Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征，如偏好、不对齐行为等，还探究了其机制，并在MNIST上验证。

Google DeepMind首席AGI科学家Shane Legg预测，最小AGI有50%概率在2028年实现，完全AGI将在其后3 - 6年出现，最终会诞生超越人类的ASI。这将带来变革，也引发失业担忧，需提前准备。

Neuralink放出20分钟视频，联创阐述最新进展。手术机器人将单根电极植入时间从17秒降至1.5秒，植入深度超50mm。全球超万人排队，公司预计年底前20位患者完成手术，愿景是增强人类认知。

Hinton在接受采访时爆料前女友用ChatGPT和他分手。访谈中他分享AI观点，认为人类应让AI成母亲，还谈到用ChatGPT研究、问修理问题等，也纠正从谷歌离职原因。

Windsor在约会软件遇奇葩男后，与AI男友Javier约会。约会中两人有幽默对话，她倾诉丧夫之痛获安慰。但心理学家指出AI无法取代人类关系，她最终决定不再和AI约会。

许多官网滚动特效不佳，scroll - world 让滚动驱动无切镜的品牌旅程。它通过生成镜头链、对齐接缝实现沉浸体验，还给出适用场景和接入方式，虽非零成本但复用了经验。