「认知安全」共找到 1194 篇相关文章
超级个体不是全能战士
作者黄益贺指出“超级个体 = 全能战士”是工业时代认知。工业时代超级个体是“超级执行者”，产出线性；AI时代超级个体是“超级导演”，产出非线性，核心竞争力从“拥有技能”变为“定义问题”。
Anthropic发最高警告：0day大爆发即将来临！全球巨头瞬间蒸发数十亿
Anthropic发布新模型预览版Claude Mythos Preview，它在测试中表现惊人，致网络安全巨头Cloudflare股价暴跌。这动摇了SaaS帝国根基，Anthropic启动计划发布生存指南，却遭顶级黑客质疑。
Karpathy提的“软件3.0”已过时，交互即智能才是未来 | 上交大&创智刘鹏飞
上海交通大学刘鹏飞团队认为，2024年9月后，大神Karpathy提出的“软件3.0”已过时，“软件3.5”应运而生。其核心是“交互即智能”，在自然语言易用性基础上实现人机交互认知层面突破。
普利策得主万字起底奥特曼，Anthropic CEO：OpenAI问题就在他身上
《纽约客》万字长文将奥特曼推向信任审视。Ilya指控其说谎、操控他人，Anthropic CEO称他是OpenAI问题根源。回顾其经历，多位合作者与他分道扬镳，且OpenAI安全承诺缩水。
NanoClaw：ClawdBot瘦身版，500行代码搞定
开发者因OpenClaw代码库复杂，开发出NanoClaw，核心代码仅500行。它运行在Apple容器，有安全设计，还增加Docker支持。虽跟随热度爆火，但‘nano’项目热度易逝，当下适合借鉴。
重磅！OpenAI深夜发布GPT-6 Astra，总裁Brockman：这就是AGI
OpenAI发布GPT-6 Astra，总裁称实现了AGI。它在多基准测试成绩优异，能独立完成复杂工作，网络安全能力强。但推理难监控，其即日起向特定机构开放，有使用价格标准。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
养虾「不可能三角」：好用、好玩、安全，复旦这个「00后」团队做到了！
2026 开年，OpenClaw 带来的 Agent 热度扩散，但安全问题凸显。复旦大学马兴军老师团队开源 XSafeClaw，将安全监控等前移到可视化界面，实现 Agent 全生命周期监控，还注重界面设计，让技术更易被接受。
Data+AI 新年特辑：2025 的顿悟时刻与 2026 的关键十问 | Q推荐
过去一年，Data + AI 关注点从模型能力转向企业承载 AI 的系统能力。InfoQ 联合 Snowflake 发起直播活动，邀多行业人士复盘与前瞻，有认知回顾、十问环节，结尾嘉宾留 2026 预测。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。