「最坏风险控制」共找到 927 篇相关文章
突破具身智能“专家困境”！北大新方法让宇树G1靠单一框架掌握跳舞和侧手翻
北京大学与BeingBeyond团队联合研发的BumbleBee系统，用创新的‘分治 - 精炼 - 融合’三级架构，实现人形机器人在多样化动作中的稳定控制，破解传统控制策略的‘专家困境’与‘现实鸿沟’。
B站发布最强零样本TTS，IndexTTS2情感可控、时长精准
在大规模TTS系统中，自回归模型难精准控制语音时长。Bilibili推出IndexTTS2，支持两种生成模式，实现情感表达与音色解耦，引入GPT潜在表示，设计‘软指令’机制，降低情绪控制门槛。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
下周聊：出海第一步，AI 科技公司需要关注的 5 个法律合规问题
AI创业应尽早出海，但不同地区法律法规等复杂。文章邀请专业人士，下周四线上分享科技公司、AI创企出海面临的合规风险、典型案例及应对方法，还提及需关注的软硬件法律风险等问题。
Ilya闹翻，奥特曼400万年薪急招「末日主管」！上岗即「地狱模式」
近日，奥特曼为OpenAI招募「准备工作负责人」，年薪55.5万美元加股权，约400万人民币起步。该岗位像「救火队长」，要管控AI风险，因当前AI风险更严峻，且OpenAI安全团队人员流失。
UI-TARS-desktop：字节跳动的原生GUI智能体，用自然语言控制电脑和浏览器
字节跳动开源的UI-TARS-desktop是原生桌面GUI智能体工具，基于UI-TARS和Seed-1.5-VL系列模型。能用自然语言操控电脑和浏览器，有本地和远程两种模式，支持多平台，还对比了同类工具。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
B站出海的强有力支柱：最新开源文本转语音模型IndexTTS-2.0标志零样本TTS进入双维度时代
B站Index团队开源文本转语音模型IndexTTS - 2.0，引发关注。它解决了传统AR模型时长控制难题，实现零样本TTS双维度控制，在多方面表现优异，为B站出海及AIGC应用奠定基础。
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。
刚刚，OpenAI找到控制AI善恶的开关：ChatGPT坏人格在预训练阶段已成型
OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型在某领域答错题，会致其在其他领域“学坏”，还找到“毒性人格特征”。同时给出解决办法，能让模型恢复正常。