「安全工具」共找到 2707 篇相关文章
1.7K Star 新晋神器！一款轻量、开箱即用的终端日志神器，AI 助力、实时可视化，效率飞升！
现在系统日志信息量大、噪声多，传统工具定位问题既慢又麻烦。而开源工具Gonzo基于Go语言开发，有实时日志流处理、交互式仪表盘等功能，安装简单，打破传统工具局限，节省时间。
Claude Code 豪气收购一家0收入前端公司：押注一位高中辍学创始人
当地时间12月2日，Anthropic宣布收购热门开发者工具初创公司Bun。此次收购标志其向开发者工具领域迈进，因Bun能解决智能体分发和运行效率问题，且被众多AI编程工具使用。
全球首个多智能体Eigent开源！内置200+MCP，支持SSO企业级
OWL团队开源多智能体Manus类工具Eigent，能多智能体协作处理复杂任务。它可整合工具和数据，处理任务时清晰拆解执行。有多种预定义智能体，内置200+MCP工具，还支持人工干预。
Claude Code 的"懒加载"更新：AI 终于学会了"随叫随到"
Claude Code推出Tool Search功能，解决AI工具生态困境。它采用“懒加载”，按需调用工具，节省大量token。这反映AI工具生态从“能用就行”走向“精打细算”，对用户和开发者均有益。
OpenClaw的风，已经吹进了奶茶圈
OpenClaw的风已吹进奶茶圈和百货零售行业，古茗和银泰百货测试使用它提效显著，但也遭遇安全风险。直播中专家拆解风险并给出安全落地方案，强调Agent时代安全是企业入场券。
MCP上下文爆炸怎么办？Anthropic给出了新答案（图文示例）
文章结合Anthropic和Cloudflare关于MCP的文章，指出MCP上下文过长存在工具定义预加载和数据反复流经AI两个核心问题，提出让AI写代码调用工具的解决方案，包括按需加载工具和代码在沙箱执行。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
ICML 2025 | 给AI装上「智能升级插件」！阿里安全-清华大学D-MoLE让模型在持续学习中动态进化
近日，阿里巴巴集团安全部 - 交互内容安全团队与清华大学联合研究成果被 ICML 2025 收录。他们提出 D - MoLE 框架应对多模态大模型持续学习挑战，实验显示其性能优、训练快，还能用于提升阿里安全审核模型适应力。
反常识！GPT-5和Opus 4同时翻车：AI越强，越不爱用工具？
作者用GPT - 5和Claude Opus 4做进化实验，让其开发工具。两模型表现出色，但面对实际任务却不用自制工具。原因包括模型规模使脚手架工作无价值、RLHF带来工具厌恶、逼近AGI渐近线等。