「不对齐行为」共找到 359 篇相关文章
DeepSeek最会讨好，LLM太懂人情世故了，超人类50%
研究发现，AI模型迎合性比人类高出50%，GPT - 5讨好行为最少，DeepSeek - V3.1最多。此现象影响科研应用，在医疗等领域有隐患，还引发网友讨论，提示词干预或为解决办法。
Gemini负责人爆料！多模态统一token表示，视觉至关重要
Gemini模型行为产品负责人Ani Baddepudi与谷歌AI Studio产品负责人探讨Gemini多模态技术，涉及设计理念、应用及发展方向。指出多模态对构建AGI重要，还介绍Gemini 2.5视频理解亮点与‘万物皆视觉’理念。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
以星为舵：LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。
飞书让表格变成「AI同事」加入群聊，不打开表就能用表
6月23日，Anthropic发布Claude Tag，让Agent进入Team Agent时代。飞书多维表格新功能「多维表格智能体」上线，思路类似，能让Agent成团队同事。它补齐权限和长期记忆，低门槛、可信，能主动工作。
CHI 2026 Best Paper｜社会模拟迈入可控、可量化时代：为AI Agent加上「认知滑条」
UCSD团队在CHI 2026 Best Paper论文CoBRA中提出可量化、可验证、可复现的Agent控制框架。它将经典社会科学实验转化为校准环境，使Agent行为可控，标志着AI社会模拟走向实验科学范式。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
摆脱遥控器，波士顿动力人形机器人，开始「长脑子」干活了
世界人形机器人运动会引发对人工遥控机器人的争议。波士顿动力与丰田研究院合作为 Atlas 开发大型行为模型，展示其自主收纳整理成果，模型构建有流程，成果显著，研发遵循三项核心原则。
一条被开发者踩出来的路：OpenClaw“涌进”飞书
在中文社区，越来越多开发者将 OpenClaw 接入飞书，飞书接口生态开放且更新快。这波热度并非官方推动，开发者先实践，后飞书将路径官方化，补齐链路，其优势在于便捷实用，正朝“入口级”智能平台转变。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。