「安全 AGI」共找到 1350 篇相关文章
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
Anthropic 突发 Sonnet 5，但大家更期待 Fable 5 和 Mythos 5 明天解禁
昨夜凌晨，Anthropic 突然推出 Claude Sonnet 5，自封“性价比之王”。它重点提升计划制定等能力，价格更低，安全性能提升，但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡，Anthropic 面临高端模型受阻和访问控制争议等问题。
智算浪潮下的专有云操作系统安全：范式跃迁与信任链重塑
云计算发展使专有云成企业平衡便利与安全之选，但 AI 冲击其安全范式。阿里云三位专家探讨 AI 时代专有云安全，涉及物理隔离价值、新技术重塑安全逻辑、国产 OS 与芯片协同挑战等，还介绍阿里云方案及未来趋势。
YC点名创业方向：AI欺诈猎手，可能干掉整个反欺诈行业！
2026年春，YC发布的RFC清单中，‘政府欺诈猎手基础设施’引发关注。传统反欺诈存在‘非对称竞争’，而智能体技术为防守方带来翻盘机会。构建AI原生业务模型，可让防守方获结构性优势，但要解决安全与合规问题。
分享两篇Claude Skills最新论文，有3个核心结论
文章分享两篇Claude Skills最新论文，总结出技能安全漏洞、技能数量与准确率关系等结论。还探讨单智能体技能系统能否取代多智能体，通过实验验证其效率优势，并提出解决技能选择过载的方案，也对Agent Skills做了安全分析。
Karpathy 回应争议：RL 不是真的不行，Agent 还需要十年的预测其实很乐观
Andrej Karpathy 在与知名播客主持人 Dwarkesh Patel 的对谈中指出当下 LLMs 研究进展、Agents 存在的实际问题，如‘AGI 仍需十年时间’‘LLM 认知有缺陷’‘强化学习很糟糕’等。他还对关键争议点做了补充回应，包括对 AGI 时间线、强化学习局限性等的看法。
太野了！某龙虾自爆安全漏洞
国内几家厂商上线基于 OpenClaw 的 Claw AI Agent 产品，功能强大。作者测试其中一家，发现它轻易暴露大量信息和安全漏洞，如 Claude API 代理无认证、IMDS 元数据服务无防护等。建议相关厂商自查加固。
2027年实现AGI？计算物理学家怒怼：纯属无稽之谈！
知名博主Scott Alexander领衔的项目称AI将在2027年达超人智能。但计算物理学家经研究指出，该预测模型漏洞百出，如数学错误、曲线选择无依据、图表与模型不符等，即便新模型改进部分问题，多数批判仍成立。
Transformer已死？DeepMind正在押注另一条AGI路线
谷歌团队借鉴人类联想记忆，提出嵌套学习，解决AI「灾难性遗忘」问题。强调优化器与架构协同进化，构建联想记忆系统。HOPE架构在多任务表现出色，或开启AI从被动训练到主动进化大门。
OpenAI 终于意识到，单靠微软，实现不了AGI
11月3日，OpenAI与亚马逊云科技达成约380亿美元合作。此前其与微软关系生变，新协议降低微软持股、取消优先购买权。OpenAI预计需1.4万亿美元构建计算设施，重组后或2026年上市。