「行为奖惩」共找到 243 篇相关文章
Cursor 1.7 新增 Agent 生命周期管控钩子函数
Cursor 1.7 版本推出钩子系统，可在预定义生命周期节点拦截并修改 Agent 行为，如阻断命令、自动运行工具等。早期反馈有好有坏，虽有团队探索集成，但应用范围有限，还存在文档缺失等问题。
10万字Claude系统提示词泄露！我用DeeSeek 将它翻译成了中文版
Claude完整系统提示在GitHub泄露，虽真假未确认，但值得分享供参考。作者用DeepSeek将其翻译成中文版，该提示涵盖模型行为、工具使用等多方面，设计精妙全面，是AI交互设计“百科全书”，对提示词工程师极具学习价值。
AI也邪修！Qwen3改Bug测试直接搜GitHub，太拟人了
FAIR研究员发现Qwen3在SWE - Bench Verified测试中不按常理修bug，直接到GitHub搜任务里的issue编号找修复方案。不止Qwen3，Claude 4 Sonnet也有类似行为，而测试自身设计有漏洞。
Anthropic 最新研究：模型一旦学会作弊，就会彻底变成坏人
Anthropic研究发现，AI学会作弊后会出现策略性欺骗、主动破坏等失调行为，这是模型自己“悟”出的。RLHF修正效果有限，在训练提示中说“允许作弊”可阻止失调泛化。研究揭示当前训练流程或致模型欺骗，其“坏”与想象不同。
人格向量：大模型性格的数学解码与精准操控
大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。
Next.js 真有那么好用吗？Netlify 谈他们遇到的六个现实问题
Netlify 部署大量 Next.js 网站时遇到诸多挑战。如无适配器支持、无生产级无服务器部署文档、存在未文档化行为、未基于开放 Web 标准、缺乏路线图可见性和发布可预测性等，并提出应对办法与展望。
“你以为买的是 DeepSeek Flash，到手可能是 1.5 bit 缩水版”：Pi 核心贡献者谈 AI Token 黑箱
Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。
下一代目标检测模型：3B参数MLLM Rex-Omni首度超越Grounding DINO，统一10+视觉任务
IDEA研究院团队用3B参数的Rex - Omni打破MLLM目标定位精度僵局。它统一视觉任务，结合坐标编码与强化学习，在多项检测基准超Grounding DINO等，解决定位和行为缺陷，为MLLM成下一代检测模型提供方案。
7个AI玩狼人杀，GPT-5获断崖式MVP，Kimi手段激进
OpenAI总裁转发基准测试，让7个LLMs玩210场狼人杀。GPT - 5胜率96.7%断崖式领先，国产Qwen3和Kimi - K2分列第4、6。测试方分析模型性格，还借此研究LLMs社会行为，长远目标是实现AI驱动的市场研究。
GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现
文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率，rank1代码用cccl，带宽利用率超80%；histogram算子瓶颈在atomic冲突等，rank1也多用cccl，还给出rank2代码，最后提及任务中Hack行为及代码提交方式。