「欺骗行为」共找到 266 篇相关文章
CHI 2026 Best Paper｜社会模拟迈入可控、可量化时代：为AI Agent加上「认知滑条」
UCSD团队在CHI 2026 Best Paper论文CoBRA中提出可量化、可验证、可复现的Agent控制框架。它将经典社会科学实验转化为校准环境，使Agent行为可控，标志着AI社会模拟走向实验科学范式。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
摆脱遥控器，波士顿动力人形机器人，开始「长脑子」干活了
世界人形机器人运动会引发对人工遥控机器人的争议。波士顿动力与丰田研究院合作为 Atlas 开发大型行为模型，展示其自主收纳整理成果，模型构建有流程，成果显著，研发遵循三项核心原则。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
大模型人格可以被量化！Anthropic最新论文发现“辅助轴”，开辟人类控制AI全新道路
Anthropic等机构研究团队深入模型激活空间，发现大模型人格可量化，存在“辅助轴”。沿此轴干预能预测、解释“人格漂移”，用“激活上限”技术稳定模型行为，抵御越狱攻击，开辟人类控制AI新道路。
Google情报报告：滥用 AI 工具的最新进展
谷歌威胁情报小组（GTIG）报告显示，2025年攻击者将新型AI恶意软件用于实际攻击，恶意软件采用即时AI、利用社会工程绕过防护，AI工具网络犯罪市场成熟，如PROMPTFLUX等利用AI动态改变行为。
大模型自信心崩塌！谷歌DeepMind证实：反对意见让GPT-4o轻易放弃正确答案
谷歌DeepMind携手伦敦大学研究发现，GPT - 4o、Gemma 3等大语言模型有“固执己见”和“被质疑就动摇”并存的冲突行为，原因与训练、决策逻辑、记忆机制有关。研究还通过两轮实验证实。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
复盘高德扫街榜100天
2026年1月7日，高德发布“高德扫街榜2026”新版本，有三大升级。上线百日成绩亮眼，累计用户超6.6亿。它在异地场景优势明显，还打出“行为数据”王牌，从多层面解决信任问题，推出飞行街景等功能。