「红队测试」共找到 1839 篇相关文章
FACTS 基准测试套件问世，用于评估大型语言模型的事实准确性
FACTS 基准测试套件由 FACTS 团队与 Kaggle 联合开发，基于原 FACTS Grounding Benchmark 增加三个新基准，可从四个维度评估大模型事实性。初步结果显示进展与挑战并存，多模态成难题。
Anthropic、Thinking Machines Lab论文曝光：30万次压力测试揭示AI规范缺陷
Anthropic和Thinking Machines Lab等机构研究人员提出模型规范压力测试法，基于细粒度价值体系生成超30万个查询场景，分析12个前沿大模型回答，揭示模型规范存在原则冲突、解释歧义等缺陷。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
小红书提出社交大模型RedOne 2.0：兼听、敏行
在SNS内容爆炸式增长的当下，传统SFT训练方法有局限。小红书NLP团队推出RedOne 2.0社交大模型，采用以RL为核心的三阶段渐进式训练方法，实验显示其性能优异，还能转化商业价值。
连续自回归的dots.tts：小红书开源语音合成模型「基座」
语音合成赛道发展如早期大语言模型，路线未收敛。小红书与上海交通大学合作开源的 dots.tts，是 20 亿参数、全连续、端到端自回归 TTS 基础模型，有准确度高、可扩展等特点，还开源了代码。
为什么AI总是"记错"你？我们造了一个"合成人生"来测试
现有AI记忆评测只记'事'不记'人'，存在数据源窄、不重理解、注入成本高的问题。QuantaAlpha联合高校团队提出CloneMem基准测试，用'数字痕迹'评估AI Clone长期记忆能力，实验有反直觉结论并给出设计启示。
借鉴人脑「海马体-皮层」机制，红熊AI重做了一个「记忆系统」
记忆成AI进化关键，Google Research新论文提出「嵌套学习」范式。红熊AI受业务难题启发，推出「记忆熊」，借鉴人脑机制重构记忆系统，在多场景应用落地，提升了服务质量和效率。
浙大校友打造AI代码测试神器，零代码零bug，30分钟创建网站
浙大校友打造的智能测试平台TestSprite 2.0，零代码零bug，30分钟创建网站，能让AI写代码准确率从42%跃升至93%，还可自动生成测试报告、调试修复错误，全程无需人工干预。
为 OpenAI 秘密提供模型测试， OpenRouter 给 LLMs 做了套“网关系统”
OpenRouter成立于2023年初，为用户提供统一API Key调用各类模型，OpenAI会用其秘密测试。平台token用量高速增长，还发布模型用量排行榜引关注。创始人认为大模型非赢家通吃，未来想成agent最佳推理层。
用于评估AI Web渗透测试能力的工具：XBow Bechmark,比靶机更好
文章介绍了用于评估AI Web渗透测试能力的XBow Benchmark，它已在github开源。该基准含104个Web安全挑战，涵盖多种漏洞，设计确保可重复性和状态持久性，其评估能力获广泛认可，还介绍了开源内容等。