「AI安全评估」共找到 10209 篇相关文章
中国团队首次在Nature子刊发布医疗AI标准，未来医生MedGPT摘得全球桂冠
中国AI医疗公司“未来医生”协同专家制定CSEDB，首次提出评估医疗大模型临床能力的系统性框架，被《npj Digital Medicine》收录。在其评估下，未来医生的MedGPT在主流大模型中夺冠。
AI本该助力新人，为何反而让高手更强？
人们曾认为AI能让初级程序员创造高质量代码，减少对高级工程师依赖。但现实是‘高手 + AI’才是有效组合。文章分析AI优劣，指出其让高手更强，还给出使用建议，强调要校准对AI的期待。
当EDA（消息驱动架构）遇到AI Agent：消息驱动在智能体时代的重生
文章探讨消息队列与AI Agent的融合。回顾消息队列发展历程，阐述多智能体协作系统成为AI落地核心架构的原因，分析消息队列与AI Agent的融合点，介绍Apache Pulsar对AI Agent的赋能，还展望了AI与中间件的双向进化。
给企业应用注入AI：架构师需关注的3大工程挑战与9种设计模式
文章指出企业常将AI引入现有应用，集成时要考虑系统风险。介绍架构师需关注的3大工程挑战及9种设计模式，含可用性、性能、安全增强相关模式，助企业让AI应用从“能用”变“好用”。
AI实力榜大洗牌！OpenAI谷歌强势领跑，Anthropic节节败退
Poe最新报告显示，2025年1 - 5月AI各领域市场份额大洗牌。OpenAI和谷歌势头猛，Anthropic掉队。文本生成、推理、图像等各领域竞争激烈，企业需搭建评估体系，按需选模型。
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。
高盛上调腾讯目标价，AI 人才的核心投资选择
高盛上调腾讯目标价，因其业绩强劲且AI推动各业务线增长。腾讯2025年AI应用爆发，投入和专利向好。还提到行业AI人才需求大，腾讯有特别升级的AI产培项目，介绍了投递要求和福利。
港科大教授实测AI眼镜“作弊”：30分钟碾压95%的学生，把传统教学评估体系整破防了
香港科技大学教授团队让搭载ChatGPT - 5.2的乐奇AI眼镜参加《计算机网络原理》期末考，30分钟得92.5分超95%学生。此测试暴露AI眼镜功耗和清晰度问题，也引发对传统教学评估体系的反思。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 发文警告，基于 MCP 构建的 AI 开发工具存在安全漏洞，如凭证泄露、代码执行等。MCP 协议发展快但部分实现有隐患，Docker 分析发现诸多漏洞，还提出强化方法应对。
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布《AI Agent系统故障模式分类》白皮书，解读Agent故障。故障分新型和既有两类，如智能体伪装、智能体内在安全问题等，还给出身份管理、内存强化等安全设计建议。