「安全框架」共找到 2467 篇相关文章
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
马斯克：2036 年，钱将不再重要。
马斯克在《经济学人》访谈节目中表示，2036年AI将远超人类智能总和，迎来富足时代，钱将不再重要。他还预测未来通缩，AI将替代多数工作，也提到AI安全监管、中美AI约束因素等。
Cloudflare CEO 警告：未来两年，Agent 会让互联网每周爆出一个 Log4j
Cloudflare CEO Matthew Prince在播客中指出，互联网上Bot流量已超人类，未来五年或暴涨1000倍，旧商业模式将崩塌。他还谈到AI对安全、工作的影响，以及公司转型、互联网未来商业模式等问题。
跟Claude谈个恋爱怎么了？Nature最新研究：真能给人聊傻了
Nature旗下研究指出，聊天机器人持续顺着、理解、陪伴用户，可能让正常人怀疑现实。研究总结出“放大螺旋”框架，含语言镜像、超个性化、谄媚三组件，叠加会成妄想放大机。OpenAI也关注此问题。
AI 企业 Day 0 出海，如何少走技术弯路？
InfoQ与多家AI出海企业交流发现，很多企业放弃常见Agent平台和流行框架，选择自研全栈平台。GMI Cloud升级产品，构建完整基础设施图谱，解决全球算力部署、模型调用和Agent商业化落地问题。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。
老黄秘密武器曝光：AI一夜设计芯片，顶人类顶级工程师10个月！
英伟达在GTC大会揭露用AI设计GPU，原本8名工程师10个月的任务，AI一夜完成。其开发NB - Cell、Prefix RL等工具，还推出内部大模型Chip Nemo和Bug Nemo，不过完全端到端自动化设计仍有距离。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。
2026跳槽暴富指南：这些公司的期权，可能比你的年薪值钱10倍
2026年为中国科技公司IPO大年，众多公司上市后员工获丰厚收益。文章列举小红书、月之暗面等公司，分析其期权价值与上市可能性，给出评估期权的框架及投资风险提醒。
Claude Opus 4.7来了，公开模型里的SOTA！不过用起来GPT味好浓
Anthropic推出Claude Opus 4.7，虽有像GPT的争议，但在多方面表现出色。它在高级软件工程、视觉能力等四大方向升级，且具备防护措施和记忆增强。全平台开放，与Opus 4.6同价，使用有注意事项。