「安全训练」共找到 2982 篇相关文章
WithAnyone重磅开源：这可能是你见过最自然的AI合照模型
复旦大学携手阶跃星辰推出全新AI合照生成模型WithAnyone，它能生成自然、真实、毫无违和感的AI合照。该模型打破以往方法局限，当前ComfyUI版本已上线，还全面开源代码、模型权重等。
智源开源EditScore：为图像编辑解锁在线强化学习的无限可能
北京智源研究院团队发布 EditScore 高保真奖励模型系列，为图像编辑强化学习提供精确奖励信号。团队提出两步解决方案，开发出 EditScore 系列模型，其在多方面表现优异，还验证了两大应用场景，有深刻研究洞见。
AI能否「圣地巡礼」？多模态大模型全新评估基准VIR-Bench来了
来自日本高校和企业团队提出多模态大模型评估基准 VIR-Bench，用于评测 AI 对旅行视频中地理位置与时间顺序的理解。它将任务拆解，构建数据集，实验显示模型虽有改进但性能远未达标，指明了大模型进化方向。
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
2025 年 InfoQ 趋势报告：AI、ML 和数据工程
InfoQ AI ML 趋势报告基于编辑团队与嘉宾播客，总结 AI、ML 技术发展趋势。涵盖 AI 代理、多模态语言模型等创新领域，也提及早期采用者、早期多数、晚期多数类别的技术，还对 2025 年相关领域发展作出预测。
DeepSeek突然拥抱国产GPU语言！TileLang对标CUDA替代Triton，华为昇腾Day0官宣支持适配
DeepSeek v3.2开源TileLang版本算子引关注，其可对标CUDA替代Triton，还适配国产算力生态，华为昇腾官宣支持。TileLang由北大团队主导，提供不同层次编程接口，助DeepSeek提升性能。
6.1k星星！这个开源 AI 知识库火了。附教程，简单且实用。
知识管理是刚需，因数据安全问题，本地部署的开源知识库受关注。本文推荐PandaWiki，它是AI驱动的开源知识库搭建系统，安装部署简单，功能丰富，适用于企业和个人。
对谈 Macaron 创始人陈锴杰：RL + Memory 让 Agent 成为用户专属的“哆啦 A 梦”｜Best Minds
本文访谈 Macaron 创始人陈锴杰，探讨 RL+Memory 让 Agent 发展及 Macaron 产品。他强调 RL 在 Agent 开发重要性，介绍 Macaron 定位、特点、训练方式，还谈及社区设想、RL 应用及产品发展方向等。
不愧是中国机器人，乒乓打得太6了
清华姚班本科生苏智团队在论文中提出结合模型规划与强化学习的分层框架，让宇树G1机器人实现亚秒级反应下的稳定连续对打，在真实实验中击球和回球率高，还能连打106拍。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。