搜索：开放研究项目

「开放研究项目」共找到 3546 篇相关文章

谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。

Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。

近日，新一届 ACM 博士论文奖公布，含一个博士论文奖和两个荣誉提名。获奖论文探讨人机协作解决心理健康问题，荣誉提名论文分别聚焦计算模型局限性及大模型数据利用。

随着多智能体系统成对话式AI新趋势，GitHub现轻量级高灵活性多AI智能体协调框架Agent - Squad，它能实现多智能体协作、路由和上下文共享，支持双语言，部署灵活，功能强大且安装友好。

Sam Altman宣布生鲜电商平台Instacart首席执行官Fidgi Simo加入OpenAI，担任新设立的应用部门CEO。该部门将整合业务和运营团队，推动研究成果惠及全球用户，实现规模化扩张。

Kubernetes官方推广KYAML，它是YAML的严格子集，旨在解决传统Kubernetes YAML配置的缩进、隐式类型转换等歧义问题，提供更安全一致的配置处理方式，兼容现有工具，支持渐进式落地，适配自动化与AI生成配置场景。

GitHub上的开源Skill andrej - karpathy - skills受Karpathy启发，能解决AI写代码的毛病。它将Karpathy洞察提炼成四条原则改造AI Agent行为，安装简单，可自定义，能约束Agent，让开发者关注关键判断。

近期，香港大学数据科学学院团队开源项目 OpenHarness，它是 Agent 基础设施，有 Agent Loop、工具箱等亮点，功能特性丰富，支持多种大模型提供商，还提供多种安装和配置方式。

文章详细介绍 Codex 连接控制的三类方式：把 Mac 当主机让其他设备控制、用 Mac 控制其他 Codex 主机、让 Codex 连接远程开发机/服务器，还提及相关设置及注意事项。

西安交通大学等校团队揭示大模型表情符号语义混淆安全漏洞，用自动化框架测试主流大模型，平均混淆率38.6%，多数混淆响应会“静默失败”，超半数达高危害级别。

OpenAI联合MIT进行四周随机对照实验，追踪981名受试者超30万条聊天消息。结果显示，ChatGPT用得越多，人越孤独，信任度越高伤害越深，语音模式长期副作用大，超120万用户心理亚健康。