「安全问题」共找到 61 篇相关文章
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
桌面版Codex的好日子，OpenAI两年前的宫斗剧内幕被曝光，并非路线之争！
在OpenAI发布桌面版Codex时，微软CTO内部邮件曝光2023年11月OpenAI政变内幕。冲突核心是资源争夺和个人地位之争，包括GPU资源分配矛盾、Ilya与Sam个人矛盾，还暴露出董事会运营经验不足等问题。
Clawdbot一夜爆红，首个0员工公司诞生！7×24h永不下班
退休码农造出的AI Clawdbot在硅谷爆红，搜索量超Claude Code。它是AGI雏形下的智能体，能在本地电脑运行，可被多方式操控，效率高。不过，它诞生不久，试用中有不稳定情况和安全隐患。
Cloudflare 推出 EmDash，瞄准 WordPress 的下一个十年
Cloudflare 推出 EmDash 预览版开源 CMS，被指是‘WordPress 的精神继任者’。它以无服务器、开发者优先架构重塑 CMS 模型，解决插件安全风险。不过，WordPress 创始人等对此存疑。
谷歌曾说“不是秘密”的东西，Gemini时代成了提款机：三人创业团队48小时濒临破产
墨西哥一家三人初创公司的 Google Cloud API 密钥被盗用，48 小时产生 82314.44 美元费用，谷歌以‘共享责任模式’为由让客户承担。研究员指出谷歌 API 密钥存在权限提升等问题，此事件引发广泛讨论。
创始人自曝让儿子辍学用AI上课、水平超同龄人！俞敏洪最先押注的“AI学校”，负债9亿不垮、现在要开到美国了
松鼠Ai创始人栗浩洋让儿子辍学用AI上课，称其水平超同龄人。该公司获俞敏洪投资，曾负债9亿，后转型靠学习机业务发展。现计划将“AI学校”开到美国，适配当地市场并回应数据安全顾虑。
「AI助手」真来了？谷歌牵头推进Agent支付协议AP2
近日谷歌宣布推出 Agent 支付协议 AP2，这是开放共享协议，为 Agent 和商家交易提供通用语言。它是 A2A 和 MCP 协议扩展，聚焦解决授权、真实性、问责三大问题，还支持多种支付类型。
微软 CTO 在 Rust Nation UK 大会上详解成功经验、挑战及对 Rust 编程语言的承诺
微软Azure首席技术官Mark Russinovich在Rust Nation UK大会探讨推动Rust采用的因素，展示微软产品中Rust应用成果，介绍用生成式AI加速C/C++向Rust迁移的努力，还提及开发者反馈及微软对Rust的承诺。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
Cloudflare 通过左移安全实践扩展基础设施即代码
Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。