「AI安全评估」共找到 10494 篇相关文章
继MCP、A2A协议之后，又一个Agent协议AG-UI来了
AI Agent交互协议不断演进，在MCP、A2A协议后，copilotkit发起AG - UI项目，构建开放、轻量级、基于事件的Agent - 用户交互标准化协议，侧重前端交互，已获部分框架兼容。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
DeepSeek-R1发布后的100天复现之旅方法总结
DeepSeek团队发布「推理大模型」DeepSeek-R1 ，其技术细节未完全开源，全球研究团队开启“复现竞赛”。论文总结100天复现经验，介绍推理大模型与普通大模型区别、复现方法、关键发现及未来方向。
太好啦，突出限制啦，7.4k Star WAHA～～～
本文介绍了获得7.4k Star的开源项目WAHA，它将多种WhatsApp社区引擎封装为统一的REST API与Webhook入口，支持灵活切换底层实现，降低业务接入成本，同时明确了项目的使用边界与规范。
EMNLP 2026 | 通过分解生成与动态自反馈，构建工具调用合成数据
本文是被EMNLP 2026主会录用的算法论文，针对现有工具调用合成数据「先生成再筛选」的缺陷，提出分阶段分解加动态自反馈的ToolLoop方法，有效提升合成数据质量，实验效果优于现有方案。
别再只卷Prompt 了，真正拉开Agent差距的是Context Engineering
本文梳理AI Agent从Prompt工程、ReAct范式到上下文工程的演进路径，系统讲解上下文工程核心原理、设计方法与落地方案，解决生产级Agent长任务质量退化痛点。
GPT-6 Astra 正式登场：烧了 10 万块 GPU、多项跑分逼近满分，OpenAI 总裁：我们迎来 AGI 时代
今天凌晨，OpenAI正式发布GPT - 6 Astra。它多项跑分逼近满分，OpenAI总裁称其或意味着AGI时代开始。该模型在多方面能力领先，安全措施升级，将在‘未来几天’面向部分用户推出。
别怀疑，就是这么强！！！13.7k Star Casdoor，爽爽爽爽爽～～～～
Casdoor是可自己部署的IAM/SSO服务端，像“身份门”，一次认证后将多种身份管理功能集成。它协议覆盖广、能衔接认证与权限管理等。但使用时也得认真治理，避免越权问题。
4.4k星！给Agent接上「本地免费搜索爬虫」，内置11个skill执行数据搜索、爬取、自动研究
文章推荐开源本地搜索工具wigolo，它是专门给Agent使用的本地网络能力层，可解决本地运行Agent查找资料时使用API麻烦费钱的问题。它功能多样，有搜索、缓存等工具，自带11个Skill。
谷歌创始人布林紧急接管Gemini团队，但“3.5 Pro已被取消”
谷歌Gemini 3.5 Pro未按计划推出，据判断已被取消。Gemini Flash系列表现不佳，谷歌AI面临压力，创始人布林重新参与相关战略讨论，而谷歌可能存在算力分配问题。