「AI对齐训练」共找到 11286 篇相关文章
AIGC全生命周期业务风控白皮书，从备案到运营的合规与安全实践
2025年《人工智能安全治理框架》2.0版发布，凸显AI安全重要性。数美科技发布《AIGC全生命周期业务风控白皮书》，构建全生命周期业务风控体系，涵盖备案攻略、评测要点、账号与内容风控等，还有实战案例。
390亿美元，全球具身智能第一估值来了！英伟达持续加注中
与OpenAI分道扬镳后，Figure C轮融资获超10亿美元承诺资本，投后估值达390亿美元。资金将用于扩大人形机器人大批量制造与部署、搭建GPU基础设施、启动数据采集项目，助力具身智能发展。
从数据分布视角，重新认识下CoT
本文从数据分布视角重新审视大语言模型的思维链（CoT）推理。指出CoT并非真正推理，而是模仿，其效果受训练与测试分布差异影响。通过实验揭示CoT在分布偏移时性能退化，提醒勿过度依赖。
谷歌又赢了，nano banana「被迫」改名后，网友搞出7种神仙玩法
谷歌神秘图像编辑模型 nano banana 改名后仍热度高，与竞品相比生成速度快、成本低、能力强。已在 Gemini 应用和 Google AI Studio 上线，网友开发出制作等距模型、标注现实世界等7种玩法。
打破瓶颈，让RAG学会思考：中科大、智源等发布推理检索框架BGE-Reasoner
人工智能浪潮下，推理密集型信息检索是RAG和AI Agent技术发展瓶颈。中科大、智源等机构联合研发推理检索框架BGE - Reasoner，在BRIGHT基准测试中刷新纪录，还将开放相关代码等推动研究。
全网爆火的DeepSeek「UE8M0 FP8」，原来英伟达早已支持
NVIDIA PTX ISA文档早有.ue8m0数据类型，UE8M0 fp8并非DeepSeek独创。从PTX 8.0/9.0起，NVIDIA在ISA级别支持.ue8m0，H100、RTX 40系列等都有相关支持，DeepSeek是将其提升到模型层面。
首个接入GPT-5的视频Agent！一句话生成商业级广告大片，分镜配音字幕等全包了
AI视频生成进入Agent时代，Video Ocean是首个接入GPT - 5的视频Agent，输入提示词就能自动完成分镜、画面等生成爆款视频。它有自动化创作生态系统，操作简单，新手也能上手。
OpenAI重大发现：GPT-4b micro改造诺奖研究，山中因子重编程效率提高50倍
OpenAI与Retro Bio合作，用新模型GPT - 4b micro设计出新型山中因子变体，使重编程效率提高50倍。此前山中因子重编程效率极低，限制其应用，此次改进是突破。研究还在多方面验证了变体效果。
SceneGen: 单图像驱动的多资产3D 场景生成
上海交通大学提出SceneGen框架，可从单张场景图像及其对应目标掩码中，同时生成带有几何结构与纹理的多个3D资产。它一次前向传播即可完成生成，在效率与稳健性上优于现有方法，虽有局限但应用潜力大。
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。