「安全评估」共找到 1560 篇相关文章
刚刚，OpenAI Sora 2重磅登场！首个APP上线，或将成为AI时代新TikTok
凌晨1点，OpenAI推出Sora 2，AI视频迎来「GPT - 3.5时刻」。它物理智能提升、实现音画同步，人物一致性等刷新SOTA。Sora App上线或重塑短视频交互与社区互动，还在安全治理上布下多层防线。
云栖大会阿里掀桌子了！Qwen3-Max、VL、Omini、Agent ... 统统发布！
云栖大会上，阿里云智能首席技术官介绍千问多款新模型发布及一款升级。如万亿参数的Qwen3 - Max，代码和Agent能力强；还有Qwen3 - Coder - Plus、Qwen3 - VL、Qwen3 - Omni、Qwen3 - LiveTranslate等模型各有亮点。
给企业应用注入AI：架构师需关注的3大工程挑战与9种设计模式
文章指出企业常将AI引入现有应用，集成时要考虑系统风险。介绍架构师需关注的3大工程挑战及9种设计模式，含可用性、性能、安全增强相关模式，助企业让AI应用从“能用”变“好用”。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
语音分离最全综述来了！清华等团队深度分析200+文章，系统解析「鸡尾酒会问题」研究
清华等多校及字节跳动研究者全面调研语音分离领域，撰写综述论文，分析200余篇代表性论文。从问题定义、学习范式、模型架构等多维度展开，还探讨评估指标、数据集等，指出未来挑战与探索方向。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
JinaVDR: 一个图文混排文档搜索任务的基准集
现有文档检索基准大多只考虑纯文本，难以处理含图表等视觉信息的文档。JinaVDR 应运而生，它是图文混排文档搜索基准集，含多语言、多领域数据，可评估模型在复杂视觉文档的检索性能。
The Batch: 852 | 加州重新制定人工智能监管框架
加州人工智能前沿模型联合政策工作组发布《加州前沿人工智能政策报告》，为立法者提供监管尖端AI模型的政策原则。报告聚焦前沿模型监管，提出综合多源证据、鼓励信息披露等结论，还探讨了美国AI监管现状。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。