「安全团队」共找到 4235 篇相关文章
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
美国州政府生成式AI应用报告
今年2月，美国阿拉巴马州州长签署行政命令推动生成式AI在州政府大面积应用，并发布深度应用报告。报告涵盖应用现状、伦理风险与策略、数据管理、政策治理等方面，为生成式AI在政府应用提供指引。
毫秒响应延迟！开源统一语音对话模型Voila
Voila是开源统一语音对话模型，能以自发、实时且有情感的方式与人类互动。它采用全新端到端架构，响应延迟仅195毫秒，支持超百万种预构建声音，适用于多种语音应用。
从像素空间走向数据流形：生成模型的对抗净化新范式 | TPAMI'26
深度神经网络虽应用广泛，但对对抗样本脆弱，制约可靠部署。本文介绍发表于TPAMI 2026的工作，提出基于一致性模型的对抗净化方法（CMAP），实验表明其在不同场景下鲁棒性强，为对抗防御提供新视角。
GPT-6 Astra 正式登场：烧了 10 万块 GPU、多项跑分逼近满分，OpenAI 总裁：我们迎来 AGI 时代
今天凌晨，OpenAI正式发布GPT - 6 Astra。它多项跑分逼近满分，OpenAI总裁称其或意味着AGI时代开始。该模型在多方面能力领先，安全措施升级，将在‘未来几天’面向部分用户推出。
完全复刻火爆全网的机器鸭
这是对Pollen Robotics Microduck的第三方复刻研究，从官方公开的MJCF仿真模型反推出装配图、爆炸图和可直接导入CAD的装配体。该机器鸭软件开源、硬件不开源，但已有信息足以还原装配关系。
斯坦福教授直播训练535B大模型，模型训练背后的「黑箱」正在被打开？
斯坦福教授Percy Liang宣布由Marin开放实验室启动训练Marin 535B - A23B模型，全程公开。过去大模型训练像“黑箱”，此次尝试让训练可观察、可讨论、可协作，引发网友关注。
1w颗星！本地化视频翻译配音工具！
KrillinAI是多功能音视频本地化与增强方案，面向人类用户和AI Agent。它功能全，覆盖视频处理完整链路；特点多，支持CLI调用等；还兼容多种语音识别、大语言模型和TTS服务，可Docker部署。
真狠！4 万 Star CodeWhale，AI 写代码最怕的是什么？？？？
文章介绍开源的CodeWhale，它是terminal coding agent harness，GitHub超4万Star。它给代码Agent定规则，涵盖身份、证据等原则。支持多模型，有任务流程和多Agent协作功能，还分析适用人群并给出启动方法。
大部分token根本不该重复计算，不止于KVCache
斯坦福研究显示，AI Agent每次调用62%内容重复，现有前缀缓存虽有优化但天花板低，阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立，解决性能问题，其CacheBlend技术复用缓存，适配多引擎和存储后端。