「安全挑战」共找到 1906 篇相关文章
刚刚，OpenAI发布「科研写作神器」Prism，Overleaf危
今天凌晨，OpenAI推出专为科学家打造的AI原生协作平台Prism，由GPT - 5.2驱动，解决科研工具碎片化问题。即日起向ChatGPT个人账户用户免费开放，功能或覆盖Overleaf，也引发数据安全等讨论。
比iPhone更疯狂！乔布斯去世15年后，「最像他的人」操刀首款AI硬件
2026年1月，OpenAI首款硬件“Sweetpea”路线图泄露，9月将发布。其形似“蛋石”充电盒内藏耳后设备，搭载顶级芯片，成本高。Jony Ive操刀设计，目标取代iPhone，OpenAI首年计划产销4000 - 5000万台。
763亿港元，大模型公司最大规模IPO！MiniMax登陆港交所，开盘前大涨50%
MiniMax正式在港交所主板挂牌上市，股票代码“00100”。此次全球发售约3358万股，募资约55.4亿港元。市场认购热烈，早盘一度涨幅超50%，市值突破763亿港元。其技术多模态齐发，组织高效，为行业提供新样本。
Crossplane 从 CNCF 毕业，实现了生产环境成熟
云原生计算基金会（CNCF）毕业了 Crossplane 项目，标志其达到重要里程碑。它能将 Kubernetes 转成云基础设施通用控制平面，已通过多阶段，有众多贡献者与企业用户，虽有争议但发展前景好。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
Databricks开源限流方案，抛弃redis，性能提升10倍
Databricks 开源高性能限流系统设计，抛弃 Redis，通过内存分片和批量上报机制，实现 10 倍性能提升。还将限流算法改为令牌桶，解决了精度控制、在线迁移等问题，权衡了分布式一致性。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
松下发布多模态大模型，文本、图像、音频随意切换
多模态数据处理成热点，但现有模型处理复杂任务有挑战。松下开发多模态大模型OmniFlow，采用模块化设计、多模态引导机制，实验显示其在多任务中有卓越表现。