「安全软件」共找到 1484 篇相关文章
软件正在发生根本变化：Andrej Karpathy 旧金山 AI创业学院演讲万字实录
Andrej Karpathy在旧金山Y Combinator AI创业学院演讲，指出软件正进入“软件3.0”时代，大语言模型（LLM）是新型计算机，能用英语编程。他探讨了LLM特性、生态，以及如何利用其构建部分自治产品等。
全球首个！国产AI开源系统一周狂改百款软件，全程0人干预
中国正从「制造大国」迈向「智造强国」，国产工业软件面临性能瓶颈。面壁智能联合OpenBMB开源全球首个Stencil优化AI系统ForgeStencil，1周自动优化100+软件，全程0人干预，提升研发效率，切中制造业升级诉求。
OpenAI Astra被曝引入「循环深度」能力飙升！安全专家坐不住了
OpenAI 最强新模型 Astra 或即将发布，它是首个达「关键级」网络安全能力门槛的模型，在测试中表现优异。《The Information》爆料其用「循环深度」技术，能力提升但引发安全专家担忧，该技术可使模型内部计算增多，思维链监控或失效。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。
OpenClaw安全有救了！不改内核、无视AI内部逻辑，数学级枷锁驯服暴走智能体
OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。
港大刚刚开源了 CLI-Anything！一个命令让任意软件秒变 AI Agent 原生工具！
香港大学数据科学实验室团队开源 CLI - Anything，它以 CLI 为桥梁，将人类软件转变为 Agent 能用的工具。该项目有一键生成 CLI、真实软件集成等亮点，还给出快速入手步骤和使用示例，未来规划宏大。
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。
内核级的真相：为什么 eBPF 正在取代基于用户空间的 Agent 成为安全可观测性的首选
文章指出基于用户空间的安全 Agent 存在与威胁同权限层级、CPU 成本高、易被攻击等问题。eBPF 能在 Linux 内核运行受沙箱保护程序，可降成本、增可见性。上线应分阶段，还介绍工具及部署安全措施。
英伟达回应了！没有后门、没有终止开关、没有监控软件
8月5日英伟达官方博客回应「H20后门」事件，首席安全官称芯片没后门，过去、现在和未来都不会有。其指出嵌入后门危害大，还以Clipper芯片为例说明预设后门会留隐患、摧毁信任。
Linux 基金会推出 Akrites 项目，防护核心开源软件免受 AI 网络威胁侵害
Linux 基金会发起 Akrites 项目，获超 20 家机构支持，旨在保护关键开源软件免受 AI 网络威胁。它建立协调框架，改进漏洞处理方式，补充现有工作，反映网络安全理念转变。