「AI安全评测」共找到 10189 篇相关文章
又一安全圈爆火的开源项目，已经1.66万Star！
现在大家爱用代码AI客户端干活，但碰到安全和逆向任务时，AI易懵圈，因工具散落、经验没沉淀。开源项目`reverse-skill`可给AI装“安全研究导航仪”，支持多种AI编码客户端，有诸多功能特性。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
《AI 2027》揭秘：人类会被超级智能取代吗？等等，还有另一个结局！
《AI 2027》由Daniel Cocotal团队发布，精准预测了多项AI发展。报告推演2025 - 2027年AI智能体发展，不同阶段影响各异，还给出两种结局，一是AI重塑世界，二是人类控制住AI并发展安全系统。
生成式AI第二阶段：个性化AI助理 + AI Agent将颠覆我们的生活工作方式
生成式AI已迈入第二阶段，核心是能“动手办事”的AI智能体。未来AI以AI助理和AI代理形式存在，两者协同工作将带来工作方式革命，但面临记忆、信任、伦理等挑战。
天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问
主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。
OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制
OpenAI Atlas等AI浏览器提升网页自动化效率，但使智能爬虫威胁加剧。南洋理工等团队研发的WebCloak，混淆网页结构与语义，打破爬虫技术依赖，为数据安全筑防线，适用于数据敏感场景。
花了3天时间，万字长文一口气评测四大AI浏览器：Dia、Fellou、Comet、Edge。
作者花三天写万字长文评测Dia、Fellou、Comet、Edge四款AI浏览器。从用户体验、Agent能力、信息搜集与处理、跨标签理解和历史记录记忆等维度测评，指出各款优劣，为用户选择提供参考。
AI写论文，AI评阅！AI顶会ICLR完成「AI闭环」，1/5审稿意见纯AI给出
在号称「史上最严管控AI」的顶级会议ICLR 2026上，超五分之一审稿意见由大模型一键生成。这发生在ICLR颁布史上最严LLM规定后不久，引发诸多争议，也凸显AI改写科学评审分工的趋势。
5Y View｜欢迎来到评测时代
强化学习推动AI突破，模型将刷爆既有评测，AI实验室面临评测饥荒。构建评测与RL环境是利用人类时间的高效方式，不同领域有不同验证方式，Mercor已率先拓展RL数据边界。
微软AI掌门直击AI乱象！AI意识纯属危言耸听，机器觉醒歧途一条
微软AI负责人Mustafa Suleyman认为只有生物体才有意识，开发者不应追求让AI有意识。他强调区分AI能力提升和拥有意识的不同，反对讨论AI意识，还分享了微软产品相关看法。