「安全设计模式」共找到 2894 篇相关文章
Borg调度进化了！谷歌超强AI Agent 登场：能设计算法、提效系统，陶哲轩亲自助攻，网友封神理科扛把子！
谷歌 DeepMind 推出由 Gemini 驱动的 AI 智能体 AlphaEvolve，能设计算法、提效系统，破多项数学记录。它已用于谷歌多领域，还将探索材料、药物研发等领域，也计划推早期访问计划。
AI Coding 流畅度模型：人机协作中的开发者角色转型与未来演进
生成式 AI 正进入软件开发流程，角色不断扩大。AI Coding Fluency 模型描述团队使用 AI 能力演进，从辅助到自主执行。AI 编程面临信任、上下文、任务设计挑战，关键在于协作方式。
OpenAI放大招！核心API支持MCP，一夜改变智能体开发
今天凌晨，OpenAI全资收购io消息吸睛，还悄悄宣布核心API——Responses API支持MCP服务。这简化智能体开发，还能集中管理工具、保障安全。此外，Responses API的图像生成等工具也有更新，并引入新功能。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
我用了一个月Dia浏览器，已经彻底抛弃了Chrome！
作者黄叔结合创始人Josh Miller复盘文，介绍Dia浏览器使用技巧，如信息检索、内容创作等，还对比Arc，指出Dia核心是Chat和Personalization，设计理念优，更适合大众，建议大家使用。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
突发！Cognition宣布收购Windsurf：看上的还是AI人才
Cognition宣布收购Windsurf，旨在构建软件工程未来。此次是全面整合，获其核心产品、IP、强劲业务、庞大用户基础及顶尖人才。Cognition还提供员工保障方案，战略协同有望变革软件开发模式。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
我想给 OpenClaw 接上语音，结果有人先做了
作者一直想用语音对接 OpenClaw，却发现「光帆AI」团队已朝此方向发展。他们用 APP 跑通「耳机 + 服务」链路，后续将迁移到硬件。作者体验后觉得交互爽，还介绍了接入方法、安全模式等。
刚刚，OpenAI发布AI浏览器ChatGPT Atlas，基于Chromium
OpenAI发布AI浏览器ChatGPT Atlas，目前仅macOS版，对不同用户免费。它将ChatGPT接入浏览器，有记忆功能，具备智能体模式。OpenAI强调安全措施，也指出智能体存在风险并给出建议。