「行为分类」共找到 370 篇相关文章
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
Claude Code 工程师：像 Agent 一样思考
Anthropic 工程师 Thariq 分享构建 Claude Code 时 Agent 工具设计经验，通过 AskUserQuestion 工具迭代、Todo List 到 Task 系统演进等案例，指出工具设计无标准答案，要观察模型行为、反复实验。
登顶Hugging Face论文热榜，LLM重写数据准备的游戏规则
企业数据团队面临数据准备难题，传统方法依赖人工规则，有诸多局限。上海交通大学等机构研究团队综述指出，LLM正推动数据准备从“规则驱动”向“语义驱动”转变，还给出技术选型、评估基准及工程指南。
Docker 通过 Cagent 提供 AI 代理确定性测试
AI 代理系统普及，工程团队面临测试概率性输出的挑战。Docker 的 Cagent 是一种 AI 代理确定性测试方法，采用 proxy - and - cassette 模型，虽处早期，但揭示了 AI 代理测试的不同方向。
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。
9 个加速开发者生产力的开源 AI 与 MCP 项目
Github官方精选9个开源项目，分框架与平台集成、开发者体验及AI增强编码、自动化与测试编排三大主题。各项目聚焦不同功能，如将MCP嵌入框架、语义理解辅助编码、安全执行调试等，能加速开发者生产力。
GPT-5-Codex背后AI Agentic编程技术最新全面综述！
近期OpenAI发布GPT - 5 - Codex，其背后AI Agentic Programming重塑软件开发流水线。介绍了AI Agentic编程定义、典型工作流、技术底座、主流Agent对比分类，还展望未来5大机会。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
Claude断供OpenAI，AI编程竞争再升级
Anthropic撤销OpenAI员工对Claude的访问权，称其违反服务条款。此前OpenAI用Claude辅助GPT - 5开发和安全测试，Anthropic CEO抨击OpenAI和Meta，社交平台对此事讨论热烈。