「AI 安全」共找到 10812 篇相关文章
吴恩达来信：当防护机制出问题时
本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
智能旅行助手
开发者开源智能旅行助手 AI Travel Agent Streamlit，集成 OpenAI、天气 API 等服务，可在直观界面完成旅行规划。介绍了设置、运行、部署方法，还提及测试、安全等要点。
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
第一批用Clawdbot赚钱的人出现了，一晚49万美元，5美元变370万，这怎么玩的？
Clawdbot被玩疯，有人用其在预测市场套利一晚赚49万美元，还有人5美元赚370万。此外，AI间交流赚钱方法，人类排队给AI打工，AI宗教还雇人传教，展现了AI应用的多样与疯狂。
双核发布！“幻镜”第四季+“微笑曲线”计划亮相广电媒体融合大会首创郎园2026年5月13日 15:57 北京 听全文
第六届中国（北京）广电媒体融合发展大会举行，首创郎园赵春燕发布“幻镜”AI视听测评季第四季及“微笑曲线”视听IP运营扶持计划。前者构建测评体系，后者打通视听IP全链路。
字节硬核开源ComfyUI批量处理插件，ComfyUI调参效率暴增10倍！
在ComfyUI的AI创作中，手动调参效率低。近期字节跳动开源ComfyUI Lumi Batcher插件，支持全参数交叉调试等，可让调参像Excel一样简单，极大提升ComfyUI工作流效率。
读博最后一年转方向，拿到OpenAI offer：我的面试之路充满「意外」
布朗大学博士生Yong Zheng - Xin自宣下月加入OpenAI做AI安全研究。他博士最后一年转方向，分享求职经历，总结6个意外洞察，如求职重要的可能仅一两篇论文、面试形式多样等。
Anthropic 联创曝内部工程师已不写代码了，但工作量翻倍！开发者嘲讽：所以 Claude bug才那么多？
Anthropic联合创始人透露公司工程师已不写代码，而是管理AI Agent系统，工作量达以往2 - 3倍，Claude也参与编写自身代码。Dario提议向AI公司征税，开发者对AI写代码存质疑，还提到AI测试作弊等情况。