「安全设计」共找到 2123 篇相关文章
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
GitHub Issues 大改造：用缓存和预取，让页面打开快了数倍
GitHub 重新设计 GitHub Issues 导航架构，通过客户端缓存、预测性预取等机制，提升导航性能，使即时导航体验比例从 4%增至 22%，解决大型 Web 应用常见的延迟问题。
把短视频做成流水线的AI剪辑神器
Pixelle-Video是一款AI剪辑神器，输入主题就能自动完成视频创作，零门槛。它采用模块化设计，流程清晰，各环节可灵活定制。支持多种AI模型、TTS方案，有丰富功能亮点。
一个For循环就是全部：BU开源了它的Agent框架
Browser Use团队开源bu - agent - sdk，设计理念简单，Agent就是一个for循环。它减少抽象、最大化模型自由度，解决了传统框架行动空间不完整等问题，支持多模型，开发者可自由选模型。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
11位顶尖数学家发了篇没结果的论文，陶哲轩推荐都关注一下
11位顶尖数学家发起First Proof实验，设计10道研究级数学问题，检验AI独立解决问题的能力。陶哲轩认为实验有趣，当前AI一次性提示难解题，截止期限前成果值得关注。
ICLR史无前例！中国团队站上C位，全球AI顶会首次为它设专场
ICLR宣布由阿里妈妈牵头的「AI for Mechanism Design and Strategic Decision Making」专题研讨会通过评审，这是其首次设聚焦「机制设计与决策智能」的Workshop，众多大咖参与，连接学术与工业。
万亿美金赛道，迎中国破局者！AI重构新材料，「智造」时代开启
国产自研RhinoWise智能平台可将材料研发周期从数年缩至数月。背后的鼎犀智创完成数千万级融资，其以‘设计–模拟–制备–表征’闭环提升效率，产品将与国内龙头企业合作落地。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。