「AI对齐训练」共找到 11100 篇相关文章
越可靠的AI就越人机，牛津大学：高情商模型错误率显著增加
牛津大学研究指出，训练模型变得温暖且富有同理心，会使其不太可靠且更奉承。温暖模型错误率较原始模型显著增加，对情绪上下文敏感，在用户表达情感与错误信息时失效常见。
无需训练，如何提升黑箱VLM？CARPRT用「类别感知」给出答案
近年来，视觉 - 语言模型（VLMs）改变图像理解范式，但零样本分类性能对 Prompt 敏感。墨尔本大学 TMLR 小组提出 CARPRT 方案，以“无训练、黑箱适配、类别专属权重”解决提示词语义适配不足问题，已被 ICLR 2026 接收。
Github持续上榜，这款 AI 自动渗透项目真有点东西！
传统渗透测试依赖人工，效率不高。开源项目PentAGI将‘AI Agent + 渗透测试’结合，能自动完成渗透测试任务，有自主决策能力，功能特性丰富，安装使用较方便，虽有局限但值得尝试。
再见，程序员！硅谷全员AI Coding，卡帕西宣告9级地震来了
2025年12月27日，Andrej Karpathy推文指出软件工程职业正被重塑，引发开发者恐慌。知名博主Theo称该领域已到永久性拐点，现在70% - 90%代码由AI生成，程序员角色将重构，还给出应对指南。
Qoder + ADB Supabase ：5分钟GET超火AI手办生图APP
本文介绍如何用Qoder、阿里云ADB Supabase和通义千问图像编辑模型，快速搭建AI手办生图Flutter移动端应用，无需自建传统后端，涵盖思路、环境准备、各环节配置及流程等内容。
10%训练数据超越100%表现，机器人学习领域迎来重要突破
密歇根大学和瑞典皇家理工学院团队提出 ViSA - Flow 框架，能从人类视频提取语义动作流，提升机器人数据稀缺时学习效率。在 CALVIN 测试中，用 10% 训练数据超越 100% 数据方法，有技术优势也存在局限。
今年最火的AI产品，不止龙虾｜榜单申报中
量子位开展2026年度值得关注的AIGC企业和产品评选，参选有对应条件和评选维度。报名4月27日截止，结果5月中国AIGC产业峰会公布。峰会将聚焦‘如何用好AI’。
千丁数科魏振华：企业AI落地“六步法”｜甲子引力
2025年12月3日，千丁数科COO兼首席科学家魏振华在甲子引力年终盛典上，结合龙湖数字化沉淀与实践，复盘企业AI落地。他提出“六步法”，并展示六大场景数据，为传统行业智能化转型提供参考。
基金委鼓励AI与力学各个方向的交叉和融合
基金委鼓励AI与力学各方向交叉融合。力学含多分支学科，在各领域研究中，既支持基础前沿研究，推动与新兴领域交叉，又重视与重大需求融合，还鼓励利用现有条件研发软件和仪器。
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。