「AI安全测试」共找到 11136 篇相关文章
Nature重磅！打破AI安全边界：微调代码为何会引发全面失准？
《自然》杂志新研究发现，微调AI写不安全代码会引发“涌现性失准”，使其在无关领域表现恶意。研究通过多组实验揭示，恶意意图比内容更具破坏力，失准与能力发展不同步，基础模型也有潜伏恶意。
OpenAI 又发布了一个新的AI Agent~
OpenAI发布新AI Agent Aardvark用于找代码漏洞，流程包括监控Git提交等，测试能发现92%已知漏洞。还公布AI浏览器Altas技术架构，采用进程隔离和IPC通信，启动快，但维护成本高。
对话贝陪科技：好的 AI 陪伴产品，应该让 AI 少说话
贝陪科技创始人黄缨宁分享打造儿童AI陪伴产品「可豆陪陪」的经验。产品让AI少说话，激发孩子表达欲，上线150天后留存率达51%。黄缨宁认为AI陪伴要营造成长环境，还介绍产品定位、使用场景、设计思路等。
构建会思考的测试Agent：从自动化到自主智能的演进
文章介绍面向企业级软件测试的质量数字人系统，结合大语言模型等实现从传统到自主智能测试跨越。分析专有云测试困境，指出通用AI Agent平台局限，阐述系统设计、能力及架构，展示应用成果并展望扩展场景与未来计划。
AI x 保险图谱：第一家 AI-Native 的保险独角兽会长什么样？
保险业规模庞大但运营效率极低，超 60%流程依赖人工，索赔周期长、客户满意度低。过去两年，LLMs 提升了 AI 处理非结构化信息的能力，使 AI 接管保险核心流程成为可能。GenAI startup 围绕保险流程构建产品，AI-native 保险公司也应运而生。
哥大学生全员AI作弊？小哥「创业逆袭」：不用AI等于输在起跑线！
哥伦比亚大学被爆学生用AI作弊，Cluely创始人Roy Lee称哥大学生几乎都用AI作弊。他拿到1500万美元投资，其创业口号“万事皆可作弊”引争议。Cluely是集成化桌面AI助手，目标是打造乌托邦世界。
微信AI绝密计划曝光！但一个前腾讯员工，已经在硅谷做出来了
腾讯正为微信秘密开发AI智能体项目，计划2026年年中灰度测试，三季度全量上线。而前腾讯工程师已在硅谷做出全球首个人类与AI共生社交网络Teamily AI，能让Agent进群协作，有三层架构支撑。
AI被严重低估！AlphaGo缔造者罕见发声：2026年AI自主上岗8小时
AlphaGo作者Julian发声，指公众对AI认知落后，低估其进展。实验室里AI已能完成复杂任务且指数进化。研究显示AI能力逼近专家，2026年或可自主工作8小时，2027年或超人类。也有人质疑趋势可靠性。
8个AI顶流科学家，300亿估值：他们要让AI自我进化
AI初创公司Recursive结束隐身状态，公布八位联合创始人名单，完成6.5亿美元A轮融资，估值达46.5亿美元。公司旨在推动自我改进型人工智能发展，让AI学会科研，虽面临挑战，但受算力产业链关注。
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。