「安全研究」共找到 2693 篇相关文章
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
马斯克：2036 年，钱将不再重要。
马斯克在《经济学人》访谈节目中表示，2036年AI将远超人类智能总和，迎来富足时代，钱将不再重要。他还预测未来通缩，AI将替代多数工作，也提到AI安全监管、中美AI约束因素等。
Cloudflare CEO 警告：未来两年，Agent 会让互联网每周爆出一个 Log4j
Cloudflare CEO Matthew Prince在播客中指出，互联网上Bot流量已超人类，未来五年或暴涨1000倍，旧商业模式将崩塌。他还谈到AI对安全、工作的影响，以及公司转型、互联网未来商业模式等问题。
ICML 2026 | 大模型为什么算不对加法？南大团队提出等本位和轨迹，揭示LLM算术错误的几何机制
南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
那个刷爆全网的提示词技巧，吴恩达刚官宣：早就过时了！重磅发布2026最新提示词大师课
吴恩达发布《2026提示词工程大师课》，指出过去流行的提示词技巧已过时。课程介绍了成为AI高阶玩家的方法，如给足上下文、引导AI给出真实反馈、用渐进式大纲写作等，还提及AI知识获取、搜索及多模态能力等内容。
Claude Code终于长出调度台：一个屏幕盯住所有AI会话，无需多开
Anthropic为Claude Code上线Agent视图研究预览版，提供「指挥中心」，可在一个界面管理所有会话。开发者能启动多个AI智能体并行处理任务，一目了然掌握任务状态，还支持在线回复和任务切换。
理解
作者以研究‘理解’概念为切入点，借助侯世达思想提出理解是脑海中‘云’的形状，其形成有横向相似度与纵向抽象度两个方向，并结合费曼说法等阐述‘云’视角下的理解。
确认！DeepSeek多模态AI已经开测
DeepSeek研究员陈小康、陈德里确认其V4视觉模式开始灰度测试。更新后出现识图模式，具备真实图像理解能力。陈小康是多模态研究组负责人，陈德里负责语言模型等核心方向，V4可谓满血归来。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。