「AI安全测试」共找到 10783 篇相关文章
OceanBase全面拥抱AI新进展：OB Cloud支持十亿级多类型向量数据，数十家企业实现AI应用落地
大模型热潮下，企业面临AI落地难题。OceanBase的OB Cloud支持十亿级多类型向量数据，已有数十家企业实现AI应用落地。它具备多云原生、AI能力优势，提供一体化架构和多模向量一体化，还降低了AI应用门槛。
全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走
谷歌DeepMind的政治哲学家Iason Gabriel入职9年，发明的对齐框架影响Gemini训练决策。在AGI承诺与AI现实伤害间，他追问AI伦理。但技术部署快，6700亿美元涌入赛道，伦理红线被踩。
AI集体“听不懂”！MMAR基准测试揭示音频大模型巨大短板
MMAR基准测试对30款音频相关模型进行测试，结果显示，多数开源模型面对复杂音频推理任务远未达实用水平，音乐任务中所有模型表现不佳，且有显式推理能力的模型表现更优。
Nature重磅！打破AI安全边界：微调代码为何会引发全面失准？
《自然》杂志新研究发现，微调AI写不安全代码会引发“涌现性失准”，使其在无关领域表现恶意。研究通过多组实验揭示，恶意意图比内容更具破坏力，失准与能力发展不同步，基础模型也有潜伏恶意。
OpenAI 又发布了一个新的AI Agent~
OpenAI发布新AI Agent Aardvark用于找代码漏洞，流程包括监控Git提交等，测试能发现92%已知漏洞。还公布AI浏览器Altas技术架构，采用进程隔离和IPC通信，启动快，但维护成本高。
对话贝陪科技：好的 AI 陪伴产品，应该让 AI 少说话
贝陪科技创始人黄缨宁分享打造儿童AI陪伴产品「可豆陪陪」的经验。产品让AI少说话，激发孩子表达欲，上线150天后留存率达51%。黄缨宁认为AI陪伴要营造成长环境，还介绍产品定位、使用场景、设计思路等。
构建会思考的测试Agent：从自动化到自主智能的演进
文章介绍面向企业级软件测试的质量数字人系统，结合大语言模型等实现从传统到自主智能测试跨越。分析专有云测试困境，指出通用AI Agent平台局限，阐述系统设计、能力及架构，展示应用成果并展望扩展场景与未来计划。
AI x 保险图谱：第一家 AI-Native 的保险独角兽会长什么样？
保险业规模庞大但运营效率极低，超 60%流程依赖人工，索赔周期长、客户满意度低。过去两年，LLMs 提升了 AI 处理非结构化信息的能力，使 AI 接管保险核心流程成为可能。GenAI startup 围绕保险流程构建产品，AI-native 保险公司也应运而生。
哥大学生全员AI作弊？小哥「创业逆袭」：不用AI等于输在起跑线！
哥伦比亚大学被爆学生用AI作弊，Cluely创始人Roy Lee称哥大学生几乎都用AI作弊。他拿到1500万美元投资，其创业口号“万事皆可作弊”引争议。Cluely是集成化桌面AI助手，目标是打造乌托邦世界。
微信AI绝密计划曝光！但一个前腾讯员工，已经在硅谷做出来了
腾讯正为微信秘密开发AI智能体项目，计划2026年年中灰度测试，三季度全量上线。而前腾讯工程师已在硅谷做出全球首个人类与AI共生社交网络Teamily AI，能让Agent进群协作，有三层架构支撑。