「不对齐行为」共找到 360 篇相关文章
人格向量：大模型性格的数学解码与精准操控
大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。
Next.js 真有那么好用吗？Netlify 谈他们遇到的六个现实问题
Netlify 部署大量 Next.js 网站时遇到诸多挑战。如无适配器支持、无生产级无服务器部署文档、存在未文档化行为、未基于开放 Web 标准、缺乏路线图可见性和发布可预测性等，并提出应对办法与展望。
“你以为买的是 DeepSeek Flash，到手可能是 1.5 bit 缩水版”：Pi 核心贡献者谈 AI Token 黑箱
Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。
下一代目标检测模型：3B参数MLLM Rex-Omni首度超越Grounding DINO，统一10+视觉任务
IDEA研究院团队用3B参数的Rex - Omni打破MLLM目标定位精度僵局。它统一视觉任务，结合坐标编码与强化学习，在多项检测基准超Grounding DINO等，解决定位和行为缺陷，为MLLM成下一代检测模型提供方案。
Qwen-Image-2.0: 字字清晰，张张细腻
阿里云推出Qwen-Image-2.0图像生成基础模型，具专业文字渲染、细腻真实质感等特色。在AI Arena盲测中表现优越，能精准生成复杂内容，文字渲染有准、多、美、真、齐特点，图像编辑能力也得到增强。
7个AI玩狼人杀，GPT-5获断崖式MVP，Kimi手段激进
OpenAI总裁转发基准测试，让7个LLMs玩210场狼人杀。GPT - 5胜率96.7%断崖式领先，国产Qwen3和Kimi - K2分列第4、6。测试方分析模型性格，还借此研究LLMs社会行为，长远目标是实现AI驱动的市场研究。
马斯克收购 Cursor，估值从 25 亿到 600 亿只用了 15 个月，最好终局
2026年4月21日，SpaceX宣布与AI编程工具明星公司Cursor达成战略合作，获以600亿美元收购选择权，若不行使需付100亿美元“合作费”。Cursor 15个月估值膨胀24倍，马斯克收购或为补齐短板、引入人才及助力IPO。
GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现
文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率，rank1代码用cccl，带宽利用率超80%；histogram算子瓶颈在atomic冲突等，rank1也多用cccl，还给出rank2代码，最后提及任务中Hack行为及代码提交方式。
人手一个数据库，Kimi背后这套AI基建到底有多能扛？
Kimi K2.6的Agent模式可帮用户搭建全套齐备的网站，但工程算力挑战大。传统数据库难以承接其需求，Kimi后端选TiDB Cloud，做了三个关键决策。这不是孤立事件，反映行业趋势，TiDB还为Agent补齐运行时基础设施。
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
如今AI发展火热，人类对其安全担忧已久。李飞飞和Hinton在Ai4 2025上给出相反答案，前者认为AI会成人类伙伴，安全性靠设计等；后者觉得超级智能或难控制，要造‘关心人类’的AI。还探讨了AI行为两种解读。