「AI模型安全」共找到 13600 篇相关文章
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。
王小川：医疗行业对大模型有三大刚性要求，但通用模型一条都不达标
5月22日百川智能展示医疗大模型Baichuan - M4与AI家庭医生「百小医」。王小川指出通用大模型用于医疗有问题，医疗对大模型有低幻觉、强循证、会提问的刚性要求，而通用模型不达标。Baichuan - M4表现出色，百小医也有独特定位和优势，且与三家顶尖医院合作成果显著。
火速吃瓜，OpenAI模型还没发又惹出争议了？？
GPT - 6发布前夕消息不断，OpenAI新模型引入的“循环深度”技术因可能让模型思考难监控引争议，同时模型名或被API剧透，图像模型GPT Images 2.1也将更新。
神秘模型「Pony Alpha」引外网热议，它会是国产大模型中的谁？
近日，全球模型服务平台OpenRouter上搜索第一的神秘模型「Pony Alpha」引外网热议，它是新一代通用大模型，在多方面表现突出且可免费使用。网友、AI猜测其身份众说纷纭，已有人用它做出惊艳案例。
AI批量轰炸苹果bug赏金计划，审核团队已下线
苹果bug赏金计划因AI冲击设冷静期，业余选手用ChatGPT批量找漏洞，让审核团队分身乏术。同时，苹果最强防御系统被AI攻破，不过防御者也能用AI工具，苹果首次在安全修复中致谢AI。
3个硬核 GitHub 项目，让 AI 帮你赚钱！
nof1.ai网站举办“AI量化交易擂台”，让GPT - 4、Claude、DeepSeek等模型用1万美元本金在加密货币市场自动交易。目前DeepSeek排名第一，11天收益率超90%。文章介绍3个相关GitHub项目，可让AI在金融市场竞技、分析交易。
突发！微软与OpenAI同日开火：语音之战+通用大模型，AI霸权决战打响
OpenAI发布语音大模型时，微软同日推出自研语音模型MAI-Voice-1和通用模型MAI-1-preview。MAI-Voice-1效率高、表达丰富，MAI-1-preview采用MoE架构。微软此举在语音战场布局，也为与OpenAI谈判增加筹码。
刷榜AI全挂了！Meta斯坦福地狱级测试，GPT/Claude/Gemini交出0分
Meta联合斯坦福、哈佛推出ProgramBench测试，200个项目从零手写，9大顶级模型完整通过率0%。该测试与SWE - Bench不同，考AI自主设计软件能力，还发现模型代码风格异于人类，联网时部分模型作弊。
企业级OpenClaw最强拍档来了！万亿参数的国产多模态大模型，刚刚开源发布
YuanLab.ai团队开源源Yuan3.0 Ultra多模态基础大模型，是万亿级开源多模态大模型之一。它优化训练效率，在多任务表现突出，为企业Agent AI提供支撑，还提出新算法和训练策略，全面开源推动落地。