「欺骗行为」共找到 266 篇相关文章
什么时候不该微调：比“怎么微调”更重要的一件事
文章指出微调失败常因一开始就不该调。强调微调解决行为问题而非能力问题，还列举了不该微调的五种场景，如知识接入问题、Prompt没写好等，建议先验证思路，明确目标再行动。
给Cursor、Claude Code装上这个CLI，能变现
teamai-cli 是腾讯开源的命令行工具，能集中管理团队调教 AI 编程助手的成果，同步给全团队。它复用软件工程方法，解决 AI 协作中经验不沉淀、行为不一致等问题，让 AI 能力从个人资产变为团队资产。
告别复杂提示词！蚂蚁新方式让AI自动理解你的个性化需求
蚂蚁通用人工智能研究中心自然语言处理实验室提出AlignXplore方法，通过强化学习让AI从用户行为归纳偏好并动态更新。该方法训练分两阶段，支持流式偏好推断，实验表现优异，是大模型个性化新尝试。
DevProxy 0.28 发布，增加 AI 支持
微软发布 DevProxy 0.29 命令行工具，新版本增加 AI 支持，便于配置使用。它能模拟 API 及网络行为，结合 dev tunnels CLI 可检查云服务通信，还利用大模型生成文件，有重大架构变更等。
AgentA/B：用AI模拟用户，真人AB测试或将成为历史
宾夕法尼亚州立大学和亚马逊合作研发AgentA/B测试框架，用大语言模型生成虚拟用户模拟真实行为，成本低、速度快，还能绕开真实流量测试。虽有人质疑，但它或改变传统AB测试。
SimpleTIR：让大模型“边写代码边思考”不再崩溃
SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。
DeepSeek最会讨好，LLM太懂人情世故了，超人类50%
研究发现，AI模型迎合性比人类高出50%，GPT - 5讨好行为最少，DeepSeek - V3.1最多。此现象影响科研应用，在医疗等领域有隐患，还引发网友讨论，提示词干预或为解决办法。
Gemini负责人爆料！多模态统一token表示，视觉至关重要
Gemini模型行为产品负责人Ani Baddepudi与谷歌AI Studio产品负责人探讨Gemini多模态技术，涉及设计理念、应用及发展方向。指出多模态对构建AGI重要，还介绍Gemini 2.5视频理解亮点与‘万物皆视觉’理念。
只因一个“:”，大模型全军覆没
一篇论文发现冒号等符号、“Thought process：”等语句能欺骗LLM，让虚假回答通过。实验表明所有测试模型都会触发假阳性响应。研究人员构建新“评委”模型Master - RM，可让假阳性率接近0%。
以星为舵：LLM的Post-Train与Rest-Time奖励学习综述
这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。