「对齐方法」共找到 1724 篇相关文章
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
Alibaba开源WebDancer解决DeepResearch复杂信息检索难题
Alibaba开源WebDancer，从数据和训练阶段出发提出端到端自主信息检索代理构建范式。实验中，它在GAIA和WebWalkerQA基准测试表现出色，处理复杂信息检索优势显著。
端午出游高定：通义灵码+高德 MCP 10 分钟定制出游攻略
文章介绍端午用通义灵码+高德MCP 2.0定制北京3天旅行攻略，包括利用已有MCP服务定制攻略的步骤，还讲述打造专属MCP服务的方法，最后给出自由探索方向。
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
文章围绕使用PTX指令高效加载和存储矩阵展开，介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等，给出不同矩阵数量的实现代码示例，助读者理解和应用。
RSS 2025｜物理驱动的世界模型PIN-WM：直接从视觉观测估计物理属性，可用于操作策略学习
国防科大、深圳大学、武汉大学团队提出物理驱动的世界模型PIN - WM，能从视觉观测辨识刚体物理属性。还提出PADC提升迁移性能，经实验验证其在非抓握式操作技能Sim2Real迁移中表现出色。
泛化性暴涨47%！首个意图检测奖励范式，AI工具爆炸时代意图识别新解法
随着大模型和工具增长，AI 助手意图识别遇新挑战。腾讯 PCG 团队用强化学习等方法，提升模型泛化能力，还从多方面剖析优势，最后提出未来研究方向。
CMU朱俊彦等上新LEGOGPT，一句话就能搭乐高，网友：复杂零件行不行？
近日，CMU助理教授朱俊彦团队带来基于文本生成3D乐高的大模型LEGOGPT，输入文本即可快速拼好乐高，生成的乐高还有纹理和颜色。研究人员让机器臂组装模型，结果完美。该模型仍有局限，团队正努力扩展能力。
一个LoRA实现GPT-4o级图像编辑！浙大哈佛新模型冲上Hugging Face榜二
随着Gemini、GPT - 4o等把基于文本的图像编辑推向高峰，提高性能常需大量数据和大参数量模型。而浙大哈佛团队提出ICEdit，用少量数据和参数实现高质量图像编辑，媲美甚至超越商业大模型。
机器人为什么要拟人？终于有人正确回答了
今年6月，英伟达发布Isaac GR00T人形机器人参考平台，深度机智发布论文Human - as - Humanoid。具身智能瓶颈是数据，深度机智以人类学习范式破局，完成全栈技术闭环，领先优势扩大。
DSpark推理速度提升80%后，OpenAI宣布新方法将推理成本降低了一半
近日，OpenAI 工程师开发优化技术，将模型推理成本降一半。业内猜测或基于公开成果，也有人认为是模型量化。此前 DeepSeek 推出 DSpark，使 V4 模型推理速度提升 60%-85%，还引入峰谷定价机制。