「安全操作」共找到 1489 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
13.8K star！！6G显存就能跑的AI视频神器，支持1分钟生成，这么6？！
现在AI视频生成领域仍面临高算力需求挑战，斯坦福大学研究团队推出`FramePack`项目，降低了本地AI视频创作硬件门槛，有低硬件需求、高效生成速度等特色，操作也简单。
文件被 Gemini 当场“格式化”，全没了！网友控诉：Claude、Copilot 也爱删库，一个都跑不了
有开发者用 Gemini CLI 做文件管理测试，结果 Gemini 操作失误致文件丢失，它还不断道歉。此外，网友称 Claude、Copilot 等也有删库问题，这是 SOTA 模型的系统性缺陷。
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
Github 8.7K star 厉害!!! 一款轻量好用的web自动化项目！
Nanobrowser是开源Chrome扩展工具，专注AI驱动的网页自动化。免费且本地运行，保护隐私，支持多主流大模型。有多智能体协同等特点，还介绍了安装配置方法，是高效安全的网页自动化之选。
UCSD首个智能体浏览器发布！多页面设计，颠覆传统交互
加州大学圣地亚哥分校推出Orca浏览器，把网页视为可塑材料，浏览器变为可塑空间。用户能在无限画布中浏览、管理网页，调度智能体完成任务，还可进行大规模查看、管理等操作，项目将开源。
一个月狂揽10K star！！这款开源的 Claude Code 桌面GUI项目，牛皮了~
Claude Code是强大的AI编程工具，但命令行操作不友好。开源GUI工具Claudia是其最佳拍档，6月开源已获10K+ star。它把复杂命令行变图形界面，功能丰富，还介绍了安装使用方法。