「软件安全」共找到 1433 篇相关文章
The Batch: 918 | 智能体 AI 引发投资者恐慌
投资者担忧AI系统动摇软件制造商商业根基，致标普软件与服务指数等大幅下挫。Anthropic推出多款产品加剧风波，后与部分公司合作使SaaS类股反弹，但未收复全部跌幅。AI正重塑软件市场，SaaS未死，正迈向AI原生化。
给 OpenClaw 再加一道安全护栏
为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。
红杉资本：服务，新时代的软件
红杉资本 Julien Bek 文章探讨 AI 将“服务”转变为“软件”趋势。指出下一个万亿美金公司或为“服务”外衣的软件公司，分析智力与判断力、副驾驶与自动驾驶等，还给出机遇地图及典型公司案例。
提效软件研发，AI Agent好用吗？
InfoQ直播邀请多位专家探讨AI4SE，提及前端知识库特点、Agent自学习等。专家认为AI目前多辅助人类，落地要重视“人”因素，还探讨了应用挑战、衡量维度、未来趋势等，QCon上海站将设专题。
中美安全公司经营对比及原因分析
国内网络安全上市公司财报多显示亏损，而美国同类公司增长与盈利能力强。分析指出，差距源于市场国际化、产品能力和人的因素。国内市场内卷，产品竞争力弱，部分公司决策和态度存在问题。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸
Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。
编程 Agent 可能是软件开发史上最昂贵的错误之一
George Hotz 试用多种 AI 编程 Agent 后，在博客称大规模采用将以灾难告终，认为 Agent 不是程序员，生成代码质量差。此外，OpenClaw 工程师、Uber 高管等也对 AI 编程提出担忧。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。
《动手写AI Agent》权限与安全：让 Agent 不敢乱来
文章指出LLM不理解操作后果，不加权限的AI Agent如定时炸弹。介绍权限模型设计，采用Deny→Ask→Allow三层过滤；给出权限规则结构，用glob模式匹配工具参数；还解释用glob而非正则的原因。