搜索：安全更新 - AI Reading Hub

「安全更新」共找到 1454 篇相关文章

终于，NotebookLM 和 Gemini 合体了。这是什么神之更新？

NotebookLM社交账号更新，现用户可将其笔记本上传到Gemini App，Pro会员在Gemini Web版能用此功能。二者合体类似Agentic RAG，但目前整合欠佳，未来体验有望提升。

DeepSeek在官方API文档给出thinking mode和tool call结合样例，把模型中间思考过程成Agent系统需管理部分。关键字段`reasoning_content`从调试信息成协议流程一部分，影响状态管理、多模型适配等。

Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。

OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。

文章指出LLM不理解操作后果，不加权限的AI Agent如定时炸弹。介绍权限模型设计，采用Deny→Ask→Allow三层过滤；给出权限规则结构，用glob模式匹配工具参数；还解释用glob而非正则的原因。

7月初谷歌伦敦云峰会上，Firebase Studio展示重要新功能，包括自主代理模式、对MCP原生支持及Gemini CLI集成，旨在简化代理式AI开发，让其更自主、信息丰富且融入开发流程。

Claude Code推出Tool Search功能，解决AI工具生态困境。它采用“懒加载”，按需调用工具，节省大量token。这反映AI工具生态从“能用就行”走向“精打细算”，对用户和开发者均有益。

LLM智能体进化为“行动派”，但自主权带来安全问题。现有评估基准缺乏有效精准评估器，研究者推出AgentAuditor框架及ASSEBench基准，让LLM评估器精确度达人类水平，为构建可靠智能体提供工具。

本文为新智元出品的实测文章，针对字节跳动豆包工作的最新三大更新展开体验测评，分析当前AI办公的核心痛点，验证新功能的实际解决效果，给出真实使用评价。

ChatGPT大更新，推出学习模式，像老师般引导思考，对多类用户开放。它由OpenAI与多方合作打造，结合学习科学成果。目前用提示词实现，未来会训练进模型，还将多方面改进，或重塑教育模式。