「红帽」共找到 114 篇相关文章
一年破千万美金，一款海外AI创意引擎爆发了
一款名为Creati的AI创意引擎发布仅1年，就有千万用户规模，实现千万美金年收入。它另辟蹊径专注创意定制和优化，创始人Ella Zhang认为创意是广告的核心，还在秘密开发创意Agent。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
三分之一arXiv沦陷！CS论文65%被判「AI味」，数学仅0.7%
一份unslop研究显示，过去一年arXiv计算机科学领域65%新论文被检测器标红，但可能只是闻起来像AI。数学论文仅0.7%，或因检测器只认文字。研究有局限性，真实用AI比例可能更高。
Claude版Manus宕机，全网炸锅！顶级开发者曝光致命缺陷
Claude Cowork开年爆红，引发大量关注和讨论，两天内浏览量达五千万，甚至因太火爆致Claude用量太大而宕机。Django之父Simon Willison揭露其核心机制，也指出存在提示词攻击风险。
AI编程学习：Chrome DevTools MCP 到底有多强？
作者体验了Google新出的Chrome DevTools MCP，它在小红书自动发帖、YouTube智能观看等场景表现出色。与Playwright对比，其Token消耗低、报错处理稳。还揭示设计思路差异，给出上车指南。
全网痛骂「AI作弊狗」！亚裔小孩哥却凭作弊黑科技一年狂赚700万美元
Cluely以“AI作弊”之名爆红，虽引争议但营收增长快，获a16z 1500万美元投资。其企业版受B端青睐，不过开源“平替”Glass上线，功能相似且免费，Cluely能否突围待市场检验。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
马斯克20亿送Grok 4上火星！20万GPU造宇宙大脑，一句话生成3D黑洞
发布72小时，Grok 4爆红硅谷，2分钟可部署游戏，一句话直出完整动画。xAI成立两周年，马斯克SpaceX将投20亿，或把模型送上火星。Grok 4算力强，多项基准测试刷新SOTA。
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。