「AGI安全」共找到 2417 篇相关文章
本周5个yyds的Github开源项目，速速收藏！
文章介绍本周5个Github优质开源项目。有基于云服务的CloudPaste，排版强的Quarkdown，视频下载工具Media Downloader，双语翻译插件FluentRead，还有全能安卓助手LinkAndroid，各有特色功能。
显卡为什么卖得越来越贵？NVIDIA 副总裁：别争了，摩尔定律早就死透了
NVIDIA应用深度学习研究副总裁Bryan Catanzaro在播客中指出，嘲笑中国AI“套壳抄袭”是偏见，中国在开源协作上是全球领跑者。他认为摩尔定律已死，显卡难降价，还分享了对开源闭源、模型技术等看法。
Anthropic万名工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日，OpenAI 宣布收购 AI 安全初创公司 Promptfoo，其技术将整合进 OpenAI Frontier 平台。该公司由 23 人创立，开发开源工具测试 AI 系统安全。收购后 Promptfoo 保持开源，OpenAI 将新增相关功能。
AI智能体也有「蜘蛛感应」，防御延时骤降至8.3%
传统Agent防御机制易致延时积累，研究者联合推出Spider - Sense智能体防御框架，利用两大核心技术将防御延时从200% + 降至8.3%，在主流数据集和新基准测试中表现优异。
Anthropic 提出透明度框架以保障前沿 AI 发展
Anthropic提出新透明度框架，针对大型AI公司，实施安全开发框架评估并减轻潜在风险，要求公开披露SDFs和系统卡片，小型公司豁免，还设执行合规条款，旨在平衡安全与创新。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
最新原生端到端OCR开源项目！
腾讯开源最新原生端到端OCR：HunyuanOCR，仅1B参数，OmniDocBench得分94.1超竞品，功能覆盖全场景。还介绍了DeepSeek - OCR的桌面客户端，支持拖拽识别、导出文件等。
硅谷AI圈变天！OpenAI弃微软转投谷歌，LeCun被边缘小扎组队血战复仇
OpenAI抛弃微软，与谷歌达成云服务协议，重塑AI竞争格局。Meta的Llama 4表现不佳，扎克伯格亲自组队50人，斥资150亿收购Scale AI，誓要做出AGI，硅谷AI圈风云骤变。
Vercel 开源 Open Agents，支持后台运行 AI 编码工作流
Vercel 开源 Open Agents，支持创建和运行后台编码智能体，提供全栈解决方案。它采用三层架构，核心是智能体与沙箱解耦，支持多步执行等功能，定位为参考实现，引发不同反响。
GPT-5.4据传下周上线！200万上下文窗口+持久化状态，告别频繁遗忘
OpenAI工程师在GitHub仓库意外泄露GPT - 5.4，相关信息流传后被撤回。据传下周上线，其有200万Tokens上下文窗口与持久记忆，支持全分辨率视觉直读，将引发硬件内存之战。