「安全关键场景」共找到 3608 篇相关文章
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
Google刚刚开源的一款AI工具，Gemini 2.5驱动浏览器自动化！
Google在GitHub开源AI浏览器自动化工具Computer Use Preview，基于Gemini 2.5模型，用自然语言控制浏览器完成复杂任务。支持双环境，集成Gemini API/Vertex AI，适用于Web测试等，零代码入门。
北大校友、华人学者金驰新身份——普林斯顿大学终身副教授
华人学者金驰宣布在普林斯顿晋升为终身副教授，任命2026年1月16日生效。他在机器学习理论领域贡献大，为LLM崛起提供数学基石，解决非凸优化和强化学习样本效率等问题。
谷歌推出“神经操作系统”原型，Gemini 2.5 Flash驱动，UI即时生成无需编码
谷歌开发者博客展示由大模型驱动的“神经操作系统”研究原型，由Gemini 2.5 Flash - Lite驱动，屏幕由大语言模型即时生成。介绍了实现UI即时生成等的核心技术理念，虽为原型但应用前景好。
AI 本地跑？Google 新开源模型上线，本地量化后占用不到 200MB 内存，支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma，专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练，提升效率。在MTEB测试中成绩佳，支持百余种语言，内存占用少，已集成多种工具。
0.01%参数定生死！苹果揭秘LLM「超级权重」，删掉就会胡说八道
苹果研究人员发现大模型中极少量的「超级权重」，即便占比仅0.01%，对模型能力影响巨大。这一发现为大模型「科学瘦身」提供思路，还提出定位方法，助力模型量化和未来研究。
告别“炼丹玄学”：上海AI实验室推出首个大模型数据竞技场OpenDataArena
上海人工智能实验室OpenDataLab团队推出开放数据竞技场OpenDataArena，致力于将数据质量评估从“玄学”变为“科学”。它有数据评测榜单和完整可复现的数据价值验证体系，为多类需求提供解决方案，还开源了核心工具。
新的 Rust 客户端致力于实现基于 Aerospike 的安全、高性能应用
Aerospike正式发布Rust客户端，用于与其实时NoSQL数据库交互。采用异步优先并发模型，支持批命令等。还将支持分区查询等功能，Aerospike也提供其他客户端库助开发者构建应用。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
革命性突破！Windows-MCP 开源：AI 助手直接操控实体电脑，告别按键精灵！
在AI驱动的桌面自动化领域，传统工具部署复杂且性能受限。最近GitHub开源的Windows - MCP工具，能让AI助手与Windows UI原生交互，可进行点击、输入等操作，支持Windows 7 - 11，无需传统计算机视觉技术。