「AI安全研究」共找到 11121 篇相关文章
DeepSeek V3到V3.2的进化之路，一文看全
知名AI研究者Sebastian Raschka发布深度博客，详细梳理DeepSeek V3到V3.2进化历程。DeepSeek V3.2性能对标GPT - 5和Gemini 3.0 Pro，且为开放权重模型，报告涵盖众多有趣领域和知识。
视频生成Prompt何须仅是文字！字节&港中文发布Video-As-Prompt
AI视频生成中，依赖抽象语义控制的创作因缺乏统一条件表征而困难。字节与港中文团队提出Video - As - Prompt框架，引入‘视频参考’范式，实现抽象语义下可控视频生成范式统一，代码和数据集已开源。
数据与舆情双引擎：DeepAnalyze + BettaFish
DeepAnalyze是面向自主数据科学的大语言模型，能自动完成数据科学任务，支持完整流程、开放式研究且完全开源。还提出两项关键技术。微舆 - BettaFish是舆情分析系统，四类智能体协同工作，有六大核心优势。
单条演示即可抓取一切：北大团队突破通用抓取，适配所有灵巧手本体
在灵巧手通用抓取研究中，传统强化学习面临挑战。北大及BeingBeyond团队提出DemoGrasp框架，以一次成功抓取演示轨迹为起点，通过编辑轨迹适应不同物体与姿态，提升学习效率和真机性能，实验效果出色。
可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。
硅谷陷入了对中国的痴迷与羡慕
《纽约时报》称‘硅谷陷入对中国的痴迷与羡慕’，虽有夸张，但中国在AI、基建等领域进展显著，如通义万相2.5视频大模型。a16z风投公司表达焦虑，中美科技竞赛激烈，双方开始相互学习。
2025谷歌奖学金公布，37位华人上榜！Jeff Dean祝贺，清华入选最多
2025谷歌博士奖学金公布，来自35个国家、12个研究领域的155名博士生上榜，分享超1000万美元资金，入选人数创历史新高。今年有37位华人博士生入选，来自清华、北大等知名学府。谷歌DeepMind首席科学家Jeff Dean祝贺。
斩获7.4K标星！NotebookLM的终极开源平替，私有化多模态播客一键生成！
Google的Notebook LM虽能上传资料一键生成播客总结，但有数据隐私等问题。近期GitHub上的Open Notebook获7.4K标星，它复制并超越前者功能，强调数据主权，有多项亮点且部署灵活。
RL在Agentic Reasoning中的作用：拨开迷雾，看清本质
近年大语言模型在推理任务能力惊人，但使用外部工具存挑战。传统SFT无法让模型自主调用工具，强化学习虽被引入，但在智能体推理中面临训练效率、稳定性和泛化能力难题。论文从多维度解构智能体强化学习，提出有效方法。
DeepSeek开源的不仅仅是个新OCR模型。。。
DeepSeek开源3B参数的新OCR模型，重新思考AI处理长文本方式，用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器，实验效果好，成本降低，还解决了一些算法和工程问题。