「红队测试」共找到 1846 篇相关文章
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
字节Seed团队发布Seed1.5-VL，用仅20B活跃参数在60个主流测试中狂揽38项第一！
字节Seed团队发布Seed1.5-VL，仅200亿活跃参数就在60个主流测试中获38项第一。介绍其架构、预训练、后训练等情况，评估表现出色，虽处理复杂场景有局限，但仍在多模态任务取得显著进展。
AI产品能不能火，全看创始人会不会当“网红”？这届AI大佬不拼代码了，个个都是隐藏的社交媒体达人
今年，AI创业者热衷在小红书冷启动产品，创始人分享创业思考，团队招募伙伴，投资人找项目。AI产品成功离不开社交传播，如Lovable、Base44等。但传播不能牺牲产品质量和技术壁垒，创业公司应抓住时间差深耕场景。
全新OCR将图片变代码无损重绘！华中科大&小红书发布3B模型，图形重建超越Gemini 3 Pro
华中科技大学与小红书联合推出MOCR，提出「解析一切」新范式，将文档图形升级为「一等解析目标」。它解决传统OCR短板，在文档解析和图形重建表现出色，还革新评估方法，代码和模型已开源。
VinciCoder：多模态统一代码生成框架和视觉反馈强化学习，数据代码模型权重已开源
中科院与美团团队推出 VinciCoder，打破多模态代码生成中 SFT 范式瓶颈。它将奖励机制转向视觉域，通过两阶段策略统一多样化代码生成任务，在多基准测试中表现卓越，为领域研究提供新范式。
HyperEyes：从「搜得更深」到「搜得更宽」，并行多模态搜索智能体的效率革命
小红书研究团队提出 HyperEyes 模型，打破现有多模态搜索智能体串行处理模式困局。通过全栈设计实现并行多模态搜索范式跃迁，在多基准测试中表现优异，证明准确率与效率可协同进化。
The Batch: 979 | LLM 清理智能体的“垃圾”
研究人员提出选择性管理智能体记忆之法，小红书Xubin Hao等构建Self - GC。它在送上下文给LLM前，让大语言模型决定内容取舍。测试显示其删历史少且保留必要细节能力强，不过未测其输出质量。
Stripe 发布基准测试：AI 智能体可开发集成方案，但校验环节存在短板
Stripe推出基准测试套件，评估AI智能体构建完整Stripe集成方案的能力，测试聚焦金融系统贴近生产环境的集成场景。测试显示，不同任务类型评测结果差异显著，核心瓶颈在于验证环节，当前智能体短板在校验逻辑等方面。
BIGAI & 中科大团队提出 MILR: 测试时隐空间推理，让图像生成学会「边想边改」丨ICLR 2026
BIGAI与中科大等团队提出MILR，通过测试时隐空间推理，在不更新模型参数下优化图文表示，提升复杂图像生成能力。该方法在多基准测试达SOTA，还探讨了测试时扩展与奖励模型，未来有诸多拓展方向。
Anthropic重磅更新skill-creator：创建skill全面告别“草台班子”时代
Anthropic升级skill - creator，让普通人创建skill更友好且有效。将测试等机制引入创作，能验证skill有效性。还支持多智能体并行测试、A/B测试，优化触发描述，为未来自然语言定义skill过渡。