「安全软件」共找到 1438 篇相关文章
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
乔纳森下一个iPhone神话，要黄了？OpenAI秘密AI硬件深陷三重困境
奥特曼与乔纳森联手打造终极个人AI助理，计划明年发布。但该项目面临基础设施和软件难题，包括算力与成本、人格设计及隐私问题，未来充满变数。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
《DeepSeek掘金》背后的故事——从行业寒冬到AI春潮，用腾讯IMA知识库重构价值
本文讲述《DeepSeek掘金》成书背后的故事。从行业寒冬到AI春潮，编委们因DeepSeek迎来职业转机。面对出版市场乱象，用腾讯IMA知识库完成创作，还打造四位一体学习方案，致敬梁文锋与DeepSeek理想主义。
让AI自动化控制电脑的一切操作automation-mcp
自动化 MCP 是模型上下文协议服务器，为AI提供完整 macOS 桌面自动化能力，如控制鼠标、输入指令等。文章介绍了安装、使用工具、架构、安全权限、集成示例等内容。
MCP 火爆半年后，是时候对它“祛魅”了
2024 年 11 月 25 日，Anthropic 发布的 MCP 协议意义重大，解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势，还采访专家解答相关疑问。
AIGCode宿文：我就是要自训练大模型，直接做「L5」| AI产品十人谈
AIGCode宿文坚信Coding是培育大模型的最佳场景，公司自训练66B基础模型，发布锡月大模型，开启AutoCoder内测。宿文认为AI Coding能解决代码供给问题，目标是实现AGI，虽面临诸多质疑，但他坚持直接做L5。
怎么回事？刚被OpenAI收购，Windsurf就发了个自己的模型
5月初，刚被OpenAI收购的Windsurf发布AI编程模型SWE - 1，该模型针对软件工程全流程，核心是流动感知，实现人机自然交接。它有三个系列，已上线可免费使用，开发灵感源于编辑器，在评估和实测中表现良好。
GPT-6 Astra突袭：正面对垒 Fable 5.1，多项编码测试反超！OpenAI 总裁：欢迎来到 AGI 时代
今天凌晨，OpenAI 发布 GPT-6 Astra，公司称是多年研究成果。它在多项测试表现出色，编程、电脑操作等能力提升，还加强了安全措施。将面向部分用户及通过 API 和 AWS 推出。