「安全危机」共找到 1003 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
通过逆向工程探秘 Claude Code 背后的运作机制
作者通过逆向工程研究Claude Code内部运作，了解其比Cursor等工具慢且贵的原因。Claude Code注重通用性和安全性，执行任务时多有安全检查，虽增加成本延迟，但更可靠，且在命令行工具中用户体验出色。
DeepSeek R1 的小更新，却大有深意？
5月28日，DeepSeek低调宣布R1模型小版本试升级，API接口和使用方式不变，但未公布具体更新内容。从用户反馈看，语义理解、逻辑推理等能力提升，实测表现出色。此次升级或有安全、产品路线等考量。
13K star！这个项目太顶了，自动化 API，后台作业，工作流，UI开发，低代码一网打尽！
日常开发构建和管理内部工具费时费力，第三方方案费用高。开源项目Windmill是开发者福音，能将脚本自动转换成工作流程和UI，适用多场景，有自动UI生成等特色，安装使用简单。
山姆•奥特曼：ChatGPT 用户有三层代沟
OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露，不同年龄层使用ChatGPT方式不同，老年人当谷歌替代品，二三十岁的人当生活顾问，大学生当操作系统，这反映了AI与人类交互模式的转变。
微软将大量AI功能、智能体集成在Windows11，全民AI时代来了
今天凌晨微软官网发布以AI为主题的新版Windows 11，集成诸多AI功能，如设置中的Agent、Click to Do等，还推出两款新Copilot+PC设备，目前仅支持英文，未来会扩大范围。
火速吃瓜，OpenAI模型还没发又惹出争议了？？
GPT - 6发布前夕消息不断，OpenAI新模型引入的“循环深度”技术因可能让模型思考难监控引争议，同时模型名或被API剧透，图像模型GPT Images 2.1也将更新。
刚刚，谷歌Gemini 3.8登场！姚顺宇：RSI巨大飞跃
深夜谷歌推出Gemini 3.8，六周内第三款Flash系列模型。含通用的Gemini 3.8 Flash和网络安全专用的Gemini 3.8 Flash Cyber，提升推理、代码能力，在多场景表现出色。已面向不同群体开放。
3.9K Star！Inkeep 把 AI 原生 Markdown 编辑器做成了开源项目！
Inkeep 团队开源 OpenKnowledge，这是真正为 AI 设计的知识库工具，已获 3.9K Star。它有所见即所得、AI 协作等亮点，还基于 Git 同步，保障数据安全，值得 Markdown 工具使用者关注。
DeepSeek Harness 入选项目疑似曝光，不选万星「花瓶」，死磕 Agent 基建
昨晚 DeepSeek V4 Pro 发布，欲迈向“工业级 Agent 生产线”。网上爆出 DeepSeek Harness 内测入选项目名单，筛选重实用功能，多集中在 MCP 插件、Coding Agent 等赛道，还介绍了部分入选项目及战略意图。