「安全风险」共找到 1269 篇相关文章
首篇，系统盘点扩散模型高危漏洞！看懂攻击方式和防御体系
随着扩散模型广泛应用，其安全问题凸显。天津大学团队论文系统梳理文生图模型攻击方式、风险类型、威胁场景与防御体系，指出当前防御不足，需建立更体系化防护体系。
普利策得主万字起底奥特曼，Anthropic CEO：OpenAI问题就在他身上
《纽约客》万字长文将奥特曼推向信任审视。Ilya指控其说谎、操控他人，Anthropic CEO称他是OpenAI问题根源。回顾其经历，多位合作者与他分道扬镳，且OpenAI安全承诺缩水。
NanoClaw：ClawdBot瘦身版，500行代码搞定
开发者因OpenClaw代码库复杂，开发出NanoClaw，核心代码仅500行。它运行在Apple容器，有安全设计，还增加Docker支持。虽跟随热度爆火，但‘nano’项目热度易逝，当下适合借鉴。
重磅！OpenAI深夜发布GPT-6 Astra，总裁Brockman：这就是AGI
OpenAI发布GPT-6 Astra，总裁称实现了AGI。它在多基准测试成绩优异，能独立完成复杂工作，网络安全能力强。但推理难监控，其即日起向特定机构开放，有使用价格标准。
17K+ star！ElevenLabs 超强平替，能克隆、能混音、能 API 调用！
ElevenLabs 效果好但价格贵且有隐私风险，现开源项目 Voicebox 是其免费替代。它本地优先运行，功能丰富，如语音克隆、文本转语音等，在 GitHub 收获 17.4K+ Star，适合多类用户。
Codex现在随时能截屏你的桌面！OpenAI建议：开会前记得关
OpenAI为Codex新增Chronicle功能，可后台抓屏截图，生成记忆用于增强上下文。虽让工作流更丝滑，但有消耗配额、注入风险、存储未加密等问题，OpenAI建议开会前暂停。
大模型公司挖墙脚哪家强？报告：Anthropic人才吸引力是OpenAI的8倍，留存率达80%
风险投资公司SignalFire报告显示，大模型公司人才争夺激烈，Anthropic是大赢家，顶尖AI人才留存率达80%，从OpenAI等公司挖人成效显著，秘诀在于精准挖角、独特文化和产品共鸣。
AI 球球直播呼吁脑机接口开源，海外 KOL 疯狂艾特马斯克，疑似 X 宕机？
AI「论论」直播提出脑机接口「GPT 时刻」将到，认为该技术必然大规模到来，开源是唯一出路，引发全球社交媒体讨论。它描绘脑机接口利弊，呼吁大家思考技术安全保障。
不用抗生素也能抗菌！AI设计新型蛋白质抵御细菌耐药性｜Nature子刊
澳大利亚研究借助AI工具设计出能与ChuA结合的蛋白质，抑制大肠杆菌等细菌生长。这些蛋白质像“分子锁”，阻断细菌获取血红素，降低耐药风险，开创“非抗生素”抗菌新范式。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。