「人工智能安全治理」共找到 1453 篇相关文章
GPU为什么能取代CPU，成为计算领域无可争议的核心？
文章介绍GPU取代CPU成计算领域核心的原因。对比二者架构差异，指出人工智能、大数据和HPC等领域需并行处理，GPU正擅长此。软件支持也推动其普及，未来还会在更多领域发挥作用。
今天，AI内容新规正式实施，这次不注意是真的会违法。
9月1日，《人工智能生成合成内容标识办法》及配套国标正式执行。其旨在解决AI虚假内容充斥问题，规定AI内容需打显式和隐式标识，对专业环节友好、公开传播严厉，还对相关方提出不同要求。
英伟达回应了！没有后门、没有终止开关、没有监控软件
8月5日英伟达官方博客回应「H20后门」事件，首席安全官称芯片没后门，过去、现在和未来都不会有。其指出嵌入后门危害大，还以Clipper芯片为例说明预设后门会留隐患、摧毁信任。
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
全国首部“AI生成内容合规”标准，现公开征集起草单位和个人
随着AIGC转向产业落地，监管对生成内容管控成趋势，AI生成内容风险也凸显。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，现公开征集起草单位和个人。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
被Anthropic强制改名！Clawdbot 创始人一人开发、100% AI 写代码，腾讯又跟上了热度
个人AI助手ClawdBot席卷硅谷，后被Anthropic强制改名Moltbot。它由Peter Steinberger一人开发，近乎100%用AI写代码。该项目已开源，有诸多亮点，但也存在安全隐患，网友使用场景多样。
蛋白质基座的GPT时代来了？！
清华大学周浩课题组联合上海人工智能实验室发布蛋白质基座模型AMix - 1，以系统化方法论构建，实现蛋白质基座领域从BERT到GPT时代跨越，有四大‘超能力’，设计的蛋白活性提升50倍，代码等已公开。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历，称其发展极快、压力大。公司依赖Slack沟通，自下而上创新，重能力而非政治。还提到技术栈、安全关注重点等，认为OpenAI、Anthropic和Google是AGI赛道主力。
Anthropic 发布 AI Native 全流程实践指南
Anthropic应用AI团队发布实践指南，阐述如何将AI融入软件开发生命周期各环节。指出代码不再是瓶颈，构建快但周边流程慢。指南围绕六阶段展开，给出实施步骤、治理框架和度量指标。