「风险放大」共找到 577 篇相关文章
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
Sora天才辍学生归来！OpenAI组建3人神秘小队，豪赌超级人工智能
当年Sora背后的核心贡献者、00后天才辍学生Will Depue，结束休息重回OpenAI，拉上Troy Luhman和Eric Luhman组成三人小组，目标是超级人工智能ASI。OpenAI也将目标从AGI转向ASI，不过追求ASI风险高、投入大。
上海AI Lab提出CANON：让RLVR自主识别优质推理模式
上海AI Lab与上海交大团队提出创新框架CANON，解决将人类先验知识融入RLVR训练的难题。它通过条件分组与对比机制，自适应放大有益指标变化趋势，在数学和逻辑推理任务上成果卓越，还能提升推理效率。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
Meta万引强化学习大佬跑路！用小扎原话作为离别寄语，扎心了
Meta万引强化学习大佬Rishabh Agarwal即将离职，用小扎原话“在这个瞬息万变的世界里，最大的风险就是不去冒险”作为离别寄语。他曾参与谷歌、Meta重要模型工作，下一站未明，Meta还有老员工出逃。
AI正在掏空大脑，思想沦为残废！未来只分AI的「主人」和「奴隶」
文章借CEO Greg Shove经历，指出AI虽提供认知捷径，但会使人思考能力退化。未来知识工作者将分化为AI驾驶员和乘客，差距会扩大。人们对AI迁徙犹豫，它正重绘人机界限，带来机遇也有风险。
OpenAI再次跳票，奥特曼：开源模型无限期推迟！
奥特曼宣布OpenAI开源模型无限期推迟，称需额外安全测试和审查高风险领域。这已是第二次跳票，此前从6月推迟到夏末。而此时竞争对手纷纷上新，此决定加剧其身份分裂质疑和社区信任流失。
刚刚，Claude 5.1 发布！全球最强模型来了
Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1面向普通用户等，Mythos 5.1面向高风险领域伙伴。Fable 5.1性能优、价格低，在多测试中表现提升，还能用于科研，且安全防护机制升级。
对话 XYZ-Aquila丨Deep Search SOTA 背后 AI 到底怎么参与改进 AI？
近日，XYZ AI Lab发布两款面向Deep Search的Agent，在评测中领先。其采用AI4AI方法，让AI参与研发判断。团队接受采访，探讨AI4AI含义、与RSI关系、工作范式等，还分享了改进案例和未来方向。
“中国AI变强，对全球安全反而是一件好事！” DeepMind传记作者：神秘模型Mythos被紧急下架，OpenAI的同款武器却被放了一马
DeepMind传记作者塞巴斯蒂安·马拉比认为，硅谷“谁先造出AGI谁通吃全球”是幻觉，AI虽实际裁员不多，但恐慌感会放大。还指出OpenAI财务窟窿大，中美AI实力均衡利于全球安全，美国政府监管混乱。