「AI安全事件」共找到 9896 篇相关文章
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
一文读懂鲸智百应：驱动组织进化的企业AI操作系统，让企业从「用AI」到「是AI」
在2025云栖大会上，浩鲸科技推出「鲸智百应」企业AI操作系统。它从六大维度让企业成「AI原生组织」，如统一认知搭建底座、智能执行让AI成主力等，助力企业解决AI应用根本问题。
Hinton最新警告：杀手机器人或将带来更多战争，最大担忧是AI接管人类
近日，「AI教父」Geoffrey Hinton在采访中预警，「杀手机器人」等致命自主武器让战争更易发动，降低了战争成本、改变了战争方式。他更担忧人类被AI接管，还指出AI公司在安全方面做得不够，同时也提到了AI在医疗等领域的应用。
数据土壤，决胜 AI 下半场：一场关于企业 Data+AI 战略的炉边思辨
2026年初，Snowflake与InfoQ联合举办活动，汇聚多领域专家探讨Data+AI前沿。回顾2025年，大模型迭代、AI安全等带来认知突破；还围绕2026年十大战略命题思辨，如企业Data+AI平台挑战、开源闭源博弈等。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
AI批量轰炸苹果bug赏金计划，审核团队已下线
苹果bug赏金计划因AI冲击设冷静期，业余选手用ChatGPT批量找漏洞，让审核团队分身乏术。同时，苹果最强防御系统被AI攻破，不过防御者也能用AI工具，苹果首次在安全修复中致谢AI。
AI「自我复制」能力曝光！RepliBench警示：大模型正在学会伪造身份
英国AISI推出RepliBench基准评估AI自主复制能力，分解为四大核心能力。测试显示当前AI尚不具备完全自主复制能力，但在部分子任务有进展，研究旨在平衡AI发展与安全，为技术变革导航。
对话 Funloom AI吴同：拆了AI还能玩，算什么AI原生游戏？
本文对话Funloom AI吴同，探讨AI游戏现状与发展。以《青椒模拟器》为例，指出AI游戏潜力。介绍Funloom平台，能让用户轻松生成文字游戏，分析其与开源项目差异、商业模式及对AI原生游戏看法。
TRAE 如何思考 AI Coding ：未来的 AI IDE，是构建真正的「AI 工程师」
越来越多玩家涌入AI Coding赛道，TRAE作为国内首个AI Native的IDE有独特想法。其产品经理Leon认为未来是「AI+工具」模式，推出Solo模式，还分享相关思考、功能及场景，TRAE月活已超百万。
Anthropic登上时代封面！内部曝猛料：AI递归自我改进，或在一年内发生
Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。