「AI安全框架」共找到 11288 篇相关文章

新闻资讯7

MCP 火爆半年后,是时候对它“祛魅”了

2024 年 11 月 25 日,Anthropic 发布的 MCP 协议意义重大,解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势,还采访专家解答相关疑问。

InfoQ
新闻资讯7

Claude最新模型Mythos意外泄露,性能远超Opus

Anthropic内容管理系统配置失误,近3000个未发布资产泄露,Claude最新模型Mythos提前公开。它在软件编码、学术推理和网络安全等测试中远超Opus,网络安全能力尤其危险。2026年初Anthropic产品密集发布。

开源AI项目落地
算法论文8

LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉

目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断,易有偏差。德国、中国等研究团队提出JADES框架,用分解式评分机制,揭示过去高估越狱攻击威胁,为评估建新标准。

机器之心
开源动态7

智能旅行助手

开发者开源智能旅行助手 AI Travel Agent Streamlit,集成 OpenAI、天气 API 等服务,可在直观界面完成旅行规划。介绍了设置、运行、部署方法,还提及测试、安全等要点。

GitHubStore
算法论文8

上下文工程(Context Engineering)综述:大模型的下一个前沿

文章提出“上下文工程”学科,通过整合1400余篇论文构建“基础组件 - 系统实现”框架。它将上下文定义为动态结构化信息集合,揭示LLMs理解强于生成的矛盾,为AI研究指明方向。

深度学习自然语言处理
开源动态8

开源TTS语音新标杆!Kyutai TTS:350ms延迟碾压全场,词级时间戳重构!

法国AI实验室Kyutai开源高性能TTS语音模型Kyutai TTS,基于DSM框架,支持流式输入、超低延迟与高保真语音生成,有多项亮点,还给出不同使用方式及应用场景。

开源星探
开源动态7

Hermes Agent 发布更新 Herald:实时语音 + Agent 之间可以互相通信了

Hermes Agent 更新到 v0.20.0 代号 Herald,增加实时语音对话与唤醒词,可验证引用来源可信度,集成签名Webhook,支持代理到代理协议,还有性能与安全方面更新,顺应新 Agent 发展趋势。

AI工程化
产品应用8

一手实测 Amazon Quick:我看到了企业级 Agent 的未来!

本文针对企业AI工具碎片化、员工沦为Agent间搬运工的痛点,对刚GA发布的亚马逊云科技Amazon Quick做一手实测,分析其核心能力与壁垒,判断企业级Agent发展趋势。

特工宇宙
新闻资讯7

OpenAI谷歌Anthropic罕见联手发研究!Ilya/Hinton/Bengio带头支持,共推CoT监测方案

OpenAI、谷歌DeepMind、Anthropic联合发表立场文件,提出CoT监测概念,认为是控制AI Agent核心方法。探讨其潜在机遇、局限,还提及不同公司对CoT监测的不同态度,如OpenAI乐观,Anthropic焦虑。

量子位
新闻资讯8

“千问奶茶”在二手平台6元转售;追觅俞浩:年终奖最高20个月奖金,总量会达到10亿级;京东001号快递员:退休金4000多,存款百万|AI周报

这是一份AI周报,涵盖行业热点、大模型发布等多方面信息。有追觅俞浩高额年终奖计划,马云现身阿里千问项目组引发‘千问奶茶’活动热潮,还有域名交易、企业收购、模型发布及应用等动态。

AI前线