「安全 AGI」共找到 1351 篇相关文章
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
烧了1万块横测，你用的模型可能掉队了
作者花大成本从后端、人味、前端、推理等维度，对glm 5.2、kimi k3等国产模型进行测试，展示各模型在不同测试中的结果，指出国模2T俱乐部的kimi和qwen下限高，且刻板印象需改变。
马斯克：2036 年，钱将不再重要。
马斯克在《经济学人》访谈节目中表示，2036年AI将远超人类智能总和，迎来富足时代，钱将不再重要。他还预测未来通缩，AI将替代多数工作，也提到AI安全监管、中美AI约束因素等。
Cloudflare CEO 警告：未来两年，Agent 会让互联网每周爆出一个 Log4j
Cloudflare CEO Matthew Prince在播客中指出，互联网上Bot流量已超人类，未来五年或暴涨1000倍，旧商业模式将崩塌。他还谈到AI对安全、工作的影响，以及公司转型、互联网未来商业模式等问题。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。
清华团队预言：90%的人将脱离谋生劳动，「零人公司」时代来了！
清华沈阳团队基于研究与实践提出四大颠覆判断，如AI走向「人机隔离」、未来公司只剩一人或零人等。团队在模型训练、微调等多方面有成果，还探讨行业应用、知识范式颠覆等，描绘AI发展图景。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。
Claude Opus 4.7来了，公开模型里的SOTA！不过用起来GPT味好浓
Anthropic推出Claude Opus 4.7，虽有像GPT的争议，但在多方面表现出色。它在高级软件工程、视觉能力等四大方向升级，且具备防护措施和记忆增强。全平台开放，与Opus 4.6同价，使用有注意事项。
奥特曼遭遇死亡威胁：凌晨家中被投燃烧瓶
当地时间凌晨3:45，OpenAI CEO奥特曼家中遭20岁男子投掷燃烧瓶，嫌疑人已被捕。奥特曼发文报平安，还分享家人照片，同时写下对AI行业现状思考及与马斯克等冲突的反思。
Meta 放出大招：让 AI 实现自我进化，Karpathy 的 autoresearch 沦为小弟
Meta联合多机构发布论文，提出HyperAgents框架，让AI不仅改进自身，还能改进「改进自己的方法」。它打破传统AI自我改进瓶颈，在多领域测试表现出色，还自发形成记忆机制，有迁移和叠加效果。