「AI安全」共找到 10544 篇相关文章
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
1.3万人收藏的 OpenHarness！港大开源轻量级 Agent 基础设施，兼容性拉满！
近期，香港大学数据科学学院团队开源项目 OpenHarness，它是 Agent 基础设施，有 Agent Loop、工具箱等亮点，功能特性丰富，支持多种大模型提供商，还提供多种安装和配置方式。
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
纯本地隐私绝佳，没网也能翻，30+语言支持！
日常常用翻译工具依赖云端，有隐私风险。开源离线翻译项目`Argos Translate`，基于Python开发，支持多语言互译，有多种使用形式。虽翻译精度略逊，但隐私性好、可自由部署，适合有安全需求的用户。
自动化评测的九九归一——评测agent
本文提出统一评测Agent架构，实现评测全链路自动化。它能学习标注标准，完成自动标注等工作。还介绍架构、解耦方法、模型优化及训练方案，解决多模态幻觉等问题，提升机审率，节省标注成本。
ClawdBot传疯了！视频教程来了
外网疯传的ClawdBot由开发者Peter Steinberger开发，能通过多平台交互干活。介绍其技术架构、两种设置方式、成本，还有安全设置、测试方法、进阶功能、使用场景及硬件选择等。
Browser Use 推出 Code Use：直接用代码控制浏览器
Browser Use 发布 0.9.0 版本，推出专为爬取数据设计的 Code Use。它开发特殊 Agent 和定制 LLM 输出特定代码，通过 CDP 直接操控浏览器，效率和准确性理论上更高，还给出使用示例，同时提醒了安全问题。
vivo自研蓝河操作系统内核开源！Rust开发新机遇来了
vivo宣布开源自研蓝河操作系统内核，它由Rust语言编写，解决了传统C语言难题，更轻量化、对硬件要求低且支持多架构。此次开源不仅是国产操作系统突破创新，还将推动Rust生态发展。
Rust 天花板级大神公开发帖找工作：3000 次核心提交，不敌 “会调 OpenAI API、用 Cursor”？
Rust 编译器核心贡献者 Nicholas Nethercote 和 Michael Goulet 因团队缩编等原因公开找工作。Nicholas 称 AI 吸走大量资金与注意力，使 Rust 项目资源减少。同时，Unix 联合创始人质疑 Rust 能否取代 C。
离开Meta后，田渊栋刚刚官宣创业了
离开Meta后，田渊栋参与创立Recursive_SI。该初创公司致力于打造可自主实验、自我改进的AI，已筹集6.5亿美元，估值46.5亿美元。团队成员经验丰富，在递归自我改进方向有深厚学术积累。