「安全操作」共找到 1434 篇相关文章
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
自动生成 AI 领域 Reddit 趋势报告
该项目可自动从Reddit AI相关社区生成双语趋势报告。具备实时监控、多社区分析等功能，有详细趋势分析。介绍了安装设置、使用方法、创建仓库、自定义配置等内容，助用户掌握AI领域发展。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
MCP 火爆半年后，是时候对它“祛魅”了
2024 年 11 月 25 日，Anthropic 发布的 MCP 协议意义重大，解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势，还采访专家解答相关疑问。
这个51K星标的开源神器，让任何Agent都能一键切换所有模型。
作者分享开源工具CC Switch，它能让Agent产品一键切换模型，已获50k星标。该工具全平台可用，可预填配置，还具备用量追踪、使用统计、故障转移等实用功能。
Claude Opus 4.7发布：更强能力，自我纠错，越来越不需要人类干预了
Anthropic发布Claude Opus 4.7版本，搭配Routines功能可自动化工作，人类干预减少。该版本能力大幅增强，还引入护栏机制保障安全，推出新运算级别和任务预算功能。
钢铁版OpenClaw，Transformer作者用Rust打造，告别数据裸奔
OpenClaw开源后虽发展迅速，但存在严重安全问题，如数据明文处理、隐私保护缺失、恶意组件等。Transformer论文作者Illia Polosukhin用Rust打造IronClaw，重构底层架构，升级记忆引擎，还指向去中心化经济。
OpenAI透露协议细节，已做好随时终止的准备
OpenAI公开与美国国防部协议细节，设三条红线，有更全面安全防护。合同含违约条款，其称预计政府不违约，但做好终止准备，体现科技公司平衡商业与伦理。
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。