「模型行为」共找到 7885 篇相关文章
CNCF 警告：仅靠 Kubernetes 不足以保障 LLM 工作负载的安全性
云原生计算基金会（CNCF）指出，企业在 Kubernetes 上部署大语言模型（LLM）存在安全缺口。Kubernetes 无法理解或控制 AI 系统行为，需增加额外控制层，引入 AI 特定控制。
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
刚刚，Anthropic发现Claude「类意识工作台」！神秘J空间藏着没说出口的想法
Anthropic新研究发现Claude内部存在特殊“J空间”，像静默心理工作区，浮现模型思考概念，不一定在回答里。此研究受关注，还揭示其特性、发现方式及应用，改变对Claude“心智”理解。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
啊？猫猫也会老年痴呆
《欧洲神经科学杂志》新研究表明，老年猫大脑会积累淀粉样蛋白β斑块，可能导致痴呆样行为。研究成果或助开发猫痴呆症疗法，也为人类阿尔兹海默症提供新见解。
X平台如何决定你看到什么？马斯克刚刚开源了X推荐引擎
马斯克开源X平台推荐算法，消除人工干预特征，靠Grok模型理解用户行为。系统由编排、存储和机器学习层协同，经复杂机制精准推送信息，还构建后置过滤体系保证内容质量。
腾讯混元最新开源：一套RL框架打通多个模态，庞天宇团队新作
大语言模型的RL技术已成熟，但多模态生成模型的强化学习训练仍“各自为战”，制约AIGC模型能力上限。腾讯混元庞天宇团队开源UniRL框架，打通多模态RL后训练，覆盖多种模型，内置算法与奖励组件。
10万智能体同场模拟，YuLan-OneSim带来真正的大社会实验
YuLan-OneSim是大语言模型驱动的社会模拟器，能模拟人类社会行为。它可零代码构建场景，有50个默认场景，具分布式架构，支持10万智能体同场模拟，还推出AI社会研究员，自动完成社会科学研究流程。
LaPha：你的Agent轨迹其实嵌入在一个Poincaré球？
经典强化学习动作空间离散有限，但语言模型动作空间几乎无限。上海科学智能研究院联合复旦大学提出LaPha，将智能体行为树映射到潜空间，构造密集奖励、剪枝等，在基准测试中效果显著。