「安全信号」共找到 1043 篇相关文章
辛顿、杨立昆等 AI 先驱都源自信号处理——对话 IEEE 首位华人主席、美国双院院士刘国瑞 | 万有引力
本文是对IEEE首位华人主席刘国瑞的访谈。他分享了科研、创业经历，谈到AI先驱多源自信号处理，鼓励年轻人追梦，还探讨了科研模式、合成数据、AI应用及未来生活图景等话题。
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
Claude Opus 4.7炸场，6美元造《我的世界》，临门AGI前强调安全，打工人却更慌了
Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。
Agentic RL训练：它不是单一 RL 算 法，而是一整套环境建模、学习信号、异步数据流、策略优化和基础设施的协同系统
文章指出Agentic RL训练不是单一算法，而是协同系统。它与传统RL不同，有四个训练变化。理解它要围绕三个不变量，还从环境建模等八个方面阐述，强调其竞争在于环境、信号、分布与系统的协同闭环。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
“中国AI变强，对全球安全反而是一件好事！” DeepMind传记作者：神秘模型Mythos被紧急下架，OpenAI的同款武器却被放了一马
DeepMind传记作者塞巴斯蒂安·马拉比认为，硅谷“谁先造出AGI谁通吃全球”是幻觉，AI虽实际裁员不多，但恐慌感会放大。还指出OpenAI财务窟窿大，中美AI实力均衡利于全球安全，美国政府监管混乱。
跨越智能体落地的可信鸿沟：玄甲（AgentWard）全链路防御操作系统正式发布
大模型向自主智能体演进，安全威胁全域化。当前安全方案有局限，制约产业落地。清华大学团队推出玄甲全链路安全防御操作系统，构建五层纵深防御体系，已落地应用，降低安全事件发生率，筑牢安全防线。
OpenAI解散「灾难风险应急」团队！GPU大神Scott Gray也跑路了
OpenAI解散「Preparedness」团队，该团队负责评估自家AI灾难级社会风险。官方称安全工作已融入开发流程。此前多个安全团队也已解散，多名安全高管离职，引发员工不安。
Replit 怒锤“欧洲版 Cursor”：造出百款“高危”应用，普通开发者一小时内黑入，氛围编码成了黑客“天堂”？
近日，Replit 员工报告 Lovable 未修复关键安全漏洞，扫描发现其百款应用高危，普通开发者一小时内可黑入。Lovable 虽推出‘安全扫描’功能，但仍未解决底层问题，引发对氛围编码安全责任的讨论。
1亿美元买不走梦想！但只因奥特曼这句话，他离开了OpenAI
全球AI军备竞赛烧掉3000亿美元，但真正研究「对齐问题」的人不足千人。Anthropic核心成员Benjamin Mann揭秘，2020年底OpenAI安全团队因安全优先级降低集体出走。他拒绝扎克伯格1亿美元邀约，强调AI要把安全放首位。