「有害内容检测」共找到 1035 篇相关文章
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
用大模型检测工业品异常，复旦腾讯优图新算法入选CVPR 2025
AI模型用于工业异常检测获新SOTA，相关论文中稿CVPR 2025。复旦大学、腾讯优图实验室等机构研究人员设计基于扩散模型的少样本异常图像生成新模型DualAnoDiff，实验显示其性能更优。
AI侵权愈演愈烈！全国首部“AI生成内容合规”标准欢迎参与起草
近期AI侵权频发，暴露AIGC技术下沉应用危害。中国电子商会等联合起草全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》，规范合规要求，还给出四大核心路径解决企业痛点，并阐述标准价值，现公开征集起草方。
如何破解内容安全“不可能三角”？快手王东旭：把组织从“固态”变成“液态”
快手内容安全团队负责人王东旭在AICon大会拆解“人机协同”破解内容安全“不可能三角”。他提出组织从“固态”转向“液态”，构建“AI合成旅”，还阐述产运研等岗位职能跃迁及协同模式升级，强调速度是护城河。
我做内容的10条私藏方法论，今天都拿出来分享给你们了。
数字生命卡兹克作为AI领域小有名气的创作者，分享10条内容创作方法论。包括心法上强调活人感、真诚和价值观；战略上重视选题、专业性；技法上用故事思维创作；修炼上关注评论区和数据分析。
Skywork AI | 发布Super Agent，一站式搞定写作、开发、分析与创意内容生成
去年谷歌定义了Agent，如今随着大模型发展其能力升级。Skywork AI推出Super Agent平台，有5个专家AI agent和1个通用AI agent，能生成多类型内容且支持溯源。它突破行业瓶颈，还开源相关框架和MCP。
如何破解海量内容审核难题？快手安全大模型技术探索与应用实践
在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。
GCEA-YOLO：给油田装上"防火眼"，把抽烟行为检测精度拉高 20.8%
油田抽烟事故损失大，传统检测方法有局限，深度学习模型也面临难题。作者基于YOLOv11n构建GCEA - YOLO网络，含ADown、CSP - EDLAN、GFPN、EfficientHead四个模块，检测精度显著提升，还验证了泛化与稳定性，并给出复现代码。
UofT、UBC、MIT和复旦等联合发布：扩散模型驱动的异常检测与生成全面综述
多伦多大学、麻省理工学院等高校研究者合作完成长文综述，聚焦扩散模型在异常检测与生成领域的应用，梳理图像、视频等异常检测任务进展，提供分类体系，展望未来趋势。
流式意图检测+永久记忆，NUS&NTU发布Pask：把贾维斯AI拉进现实
南洋理工大学谢之非团队提出Pask，采用「底层小模型流式意图检测」+「上层Agents执行」架构，实现实时、有深度、基于个人全局记忆自进化的主动智能体。它包含需求检测、长期记忆和主动系统模块，经测试效果良好。