搜索：AI安全测试 - AI Reading Hub

「AI安全测试」共找到 10864 篇相关文章

规范对齐：回答前的深思，让安全与行为边界更清晰

OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。

知名开发者 Ras Mic 剖析十类热门 AI 工具，如 n8n 对非技术人被高估，Claude Code 强大但门槛高，还探讨‘AI 副业月入 5 万美元’话题，指出新工具带来创业新可能。

2025年中国AI行业模型能力强但用户体验复杂，存在数字鸿沟。中国电信在数智科技生态大会上，天翼AI发布星辰智能体服务平台1.0，以统一入口“星小辰”智能体重塑入口逻辑，还在多领域布局扩张能力。

Clawdbot（现名：Moltbot）爆火，其创始人 Peter Steinberger 分享开发经历。他曾打造 PSPDFKit，后经历职业倦怠。回归后用 AI 编程，从 Claude Code 入坑，Codex 成主力，还分享了 AI 重塑开发方式的见解。

南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。

本文讲述 ClawdBot 创始人 Peter Steinberger 的开发经历。他曾打造知名 PDF 框架，后经历倦怠回归，借 AI 重塑开发方式。分享入行故事、用 AI 编程的日常及构建 ClawdBot 的过程，探讨软件工程变化及对新人的建议。

大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。

谷歌DeepMind团队在Nature发表论文，探索AI自主发现强化学习算法的可能。团队负责人是“AlphaGo之父”David Silver 。方法是基于智能体经验元学习，实验显示自动发现的规则表现优异，未来强化学习算法或无需人工设计。

据路透社报道，Google联合创始人谢尔盖・布林深度介入AI研发，推动递归式自我改进（RSI）方向。此前Google新一代Gemini旗舰模型发布推迟，内部测试显示在关键领域落后对手，此次调整或为提升研发效率。

随着新一代漏洞检测工具出现，漏洞检测走向理解业务风险。腾讯悟空安全团队联合多机构发布 VulnGym 评测基准，基于真实漏洞构建，覆盖 400+ 漏洞路径，71.2% 为业务逻辑漏洞，支持确定性评测。