「安全开发框架」共找到 3764 篇相关文章
狂涨14.4K star！大三学生开发的Github可视化利器，真吊！
开源君介绍`gitdiagram`，这是结合AI与Web开发栈的开源工具，能将GitHub仓库变成交互式架构图。由大三学生开发，获14.4k星标，微软等企业团队采用，性能佳、使用便捷。
超低标注需求，实现医学图像分割！UCSD提出三阶段框架GenSeg
GenSeg用AI生成高质量医学图像及对应分割标注，在仅有几十张样本时也能训练出媲美传统深度模型的分割系统，显著降低医生手工标注负担。它是通用、与模型无关的框架，可集成到现有分割模型。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
GitHub 狂飙 2.5 万标星，这款「会自愈」的 Python 爬虫框架杀疯了！
GitHub上爆火的Scrapling项目，是自适应Web爬虫框架。它能让爬虫‘学习’和‘适应’，解析器可自动定位元素，请求器能绕过反爬系统，性能强且支持多种会话类型，还能与AI工具集成。
告别抽卡、散装工具拼凑！通用AI视频智能体框架UniVA开源
在AI视频创作中，创作者常因频繁切换工具而疲惫。近期多所高校联合开源的UniVA框架，像「AI导演」，能整合视频工具，提供一站式自动化体验，改变「抽卡」式创作，还支持多轮交互等功能。
记录下SGLang开发，优化，debug的技巧之大SKILL时代已来临
文章记录SGLang开发等技巧，介绍Agent在编程开发领域的强大能力，如完成多种工作、提升模型速度。还提及Agent流程优化方向，提醒警惕其偏差，指出人的价值转变，成为设计、把关和提炼者。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
测评豆包1.6：我用它开发了一个“聪明的旅行策划Agent”
作者对豆包1.6进行测评，用其构建旅行策划Agent。豆包1.6推理强、有自适应思考模式且计价创新。作者实操构建旅行Agent，结合MCP完成任务，虽有不足但超预期，国内Agent开发生态已成熟。
开源即屠榜！UniME多模态框架登顶MMEB全球训练榜，刷新多项SOTA纪录
格灵深瞳等团队联合发布通用多模态嵌入新框架UniME，刷新MMEB训练榜纪录。它是两阶段框架，经文本判别知识蒸馏和困难负样本增强指令微调，在多任务达SOTA，项目已开源。