「安全强化」共找到 1540 篇相关文章
OpenAI两位首席最新采访信息量好大!终极目标是“自动化研究员”,招人并非寻找“最出圈”的人
OpenAI首席科学家Jakub Pachocki和首席研究官Mark Chen在采访中爆料,谈到GPT - 5将推理引入主流、实现自动化研究员目标、强化学习未到瓶颈等,还阐述用人标准、算力分配等问题。
英伟达回应了!没有后门、没有终止开关、没有监控软件
8月5日英伟达官方博客回应「H20后门」事件,首席安全官称芯片没后门,过去、现在和未来都不会有。其指出嵌入后门危害大,还以Clipper芯片为例说明预设后门会留隐患、摧毁信任。
4月30日凌晨,Meta举行首届AI开发者大会LlamaCon,推出Meta AI聊天机器人应用程序与ChatGPT竞争,发布Llama API。Meta试图强化开源模型生态系统以限制OpenAI发展,扎克伯格与微软CEO还探讨了开源闭源模型生态等内容。
0.25秒识破未见攻击,这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面,现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect(LoD),不依赖攻击样本和手工规则,从模型内部激活学安全模式,实验效果好且代码开源。
CVPR 2026 | 给扩散模型装上「物理引擎」: 北大彭宇新团队提出NS-Diff,使扩散模型学会流体与刚体力学
北大彭宇新团队提出 NS - Diff,将物理约束与强化学习结合,解决视频生成物理失真问题。它通过多模块提升视频物理真实感,实验表明在多数据集上超现有方法,降低物理运动误差。
真钱买假模型?187篇论文被「套壳API」坑惨,准确率暴跌
CISPA论文指出,第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务,发现已被187篇论文引用。测试显示,影子API在多领域性能差,安全不可控,供应商有三种欺骗手段。
被Anthropic强制改名!Clawdbot 创始人一人开发、100% AI 写代码,腾讯又跟上了热度
个人AI助手ClawdBot席卷硅谷,后被Anthropic强制改名Moltbot。它由Peter Steinberger一人开发,近乎100%用AI写代码。该项目已开源,有诸多亮点,但也存在安全隐患,网友使用场景多样。
谷歌DeepMind最新论文,刚刚登上了Nature!揭秘IMO最强数学模型
谷歌DeepMind的AlphaProof在IMO获接近金牌的银牌成绩。它结合大模型直觉、强化学习和Lean形式化证明解题,虽在速度、泛化和读题上有局限,但开启了人类数学家与AI协作新阶段。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历,称其发展极快、压力大。公司依赖Slack沟通,自下而上创新,重能力而非政治。还提到技术栈、安全关注重点等,认为OpenAI、Anthropic和Google是AGI赛道主力。
全球自动驾驶激战,滴滴与清华走出一条技术新路
2026年全球自动驾驶竞赛白热化,Waymo高歌猛进,特斯拉遇困境。滴滴与清华合作,成立实验室,发布STAPO算法,打通产学研链路。滴滴自动驾驶低调务实,掌握全栈技术,将出海阿联酋,其主业优势保障稳健发展。