「安全短板」共找到 2227 篇相关文章
Anthropic万名工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日，OpenAI 宣布收购 AI 安全初创公司 Promptfoo，其技术将整合进 OpenAI Frontier 平台。该公司由 23 人创立，开发开源工具测试 AI 系统安全。收购后 Promptfoo 保持开源，OpenAI 将新增相关功能。
AI智能体也有「蜘蛛感应」，防御延时骤降至8.3%
传统Agent防御机制易致延时积累，研究者联合推出Spider - Sense智能体防御框架，利用两大核心技术将防御延时从200% + 降至8.3%，在主流数据集和新基准测试中表现优异。
Anthropic 提出透明度框架以保障前沿 AI 发展
Anthropic提出新透明度框架，针对大型AI公司，实施安全开发框架评估并减轻潜在风险，要求公开披露SDFs和系统卡片，小型公司豁免，还设执行合规条款，旨在平衡安全与创新。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
最新原生端到端OCR开源项目！
腾讯开源最新原生端到端OCR：HunyuanOCR，仅1B参数，OmniDocBench得分94.1超竞品，功能覆盖全场景。还介绍了DeepSeek - OCR的桌面客户端，支持拖拽识别、导出文件等。
Vercel 开源 Open Agents，支持后台运行 AI 编码工作流
Vercel 开源 Open Agents，支持创建和运行后台编码智能体，提供全栈解决方案。它采用三层架构，核心是智能体与沙箱解耦，支持多步执行等功能，定位为参考实现，引发不同反响。
Claude Code 能写十万行代码，读一篇公众号就废了
Claude Code 读链接能力弱，qiaomu - markdown - proxy 这个 Claude Code Skill 可解决。它按 URL 类型走不同通道抓内容转 Markdown，全程免费，安装简单，解决了 Claude Code 系统性短板。
GPT-5.4据传下周上线！200万上下文窗口+持久化状态，告别频繁遗忘
OpenAI工程师在GitHub仓库意外泄露GPT - 5.4，相关信息流传后被撤回。据传下周上线，其有200万Tokens上下文窗口与持久记忆，支持全分辨率视觉直读，将引发硬件内存之战。
微软开源AI量化投资神器，狂揽23.5K星标，一站式打造你的智能交易系统！
量化投资结合AI成金融新趋势，但构建完整量化流程难题多。微软开源的Qlib平台是领军者，基于Python覆盖全流程，支持30+模型，数据引擎快，功能亮点多，安装方式多样。
OpenAI的新浏览器实测被吐槽疯了？走“乔布斯风”、挖谷歌骨干，奥特曼就“复制”出个ChatGPT版Chrome？
OpenAI发布全新网页浏览器ChatGPT Atlas，其将ChatGPT置于网页体验核心，有常驻侧边栏助手等功能。虽冲击谷歌，但用户实测反馈不一，且此类智能代理浏览器存在新安全风险。