「安全机制」共找到 1712 篇相关文章
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。
刚刚，Ilya官宣出任SSI CEO！送走「叛徒」联创，豪言不缺GPU
Ilya现身X发文，自封SSI唯一CEO，Daniel Levy任总裁，此前跳槽Meta的联创Daniel Gross出局。Ilya拒绝Meta 320亿美元收购要约，称专注事业，有算力和团队，要构建安全超级智能。
NUS&复旦&清华：首个系统性大模型Latent Space综述
新加坡国立大学等多机构发布大模型潜在空间领域首个系统性全景综述，从“基础—演进—机制—能力—展望”拆解潜空间范式的底层逻辑、技术路径与未来前景，还对比了潜空间与显式空间差异。
Agent框架各自为战？谷歌&微软：用Agent-KB让经验自由流动
当前不同框架的Agent知识无法互通，谷歌、耶鲁、字节、oppo等团队联合提出Agent KB，这是通用记忆基础设施，能让异构Agent框架共享经验。它有师生双阶段检索机制，实验验证其能带来显著增益。
2025最大AI赢家的凡尔赛年度总结，哈萨比斯Jeff Dean联手执笔
谷歌由Jeff Dean和哈萨比斯牵头完成2025年AI年度总结与趋势展望报告。报告梳理八大研究方向，展示谷歌在模型能力、产品集成、创造力赋能等多领域进展，强调安全责任与开放合作。
全新开源视频换装框架MagicTryOn
现有视频虚拟试穿（VVT）方法在时空一致性和服装内容保留方面有挑战，浙大提出全新开源视频换装框架MagicTryOn，利用全自注意力机制统一时空建模，设计服装保留策略，还引入掩码感知损失。
前沿模型被曝年度重大漏洞：加密思维链可被轻松提取，GPT，Claude，Gemini 无一幸免
一篇 116 页论文揭示前沿模型思维链重大安全漏洞，Anthropic、OpenAI、Google 的 API 因架构问题，模型隐藏推理过程可通过两次 API 调用被大规模提取，还会带来多种安全威胁。
Marvis 实测：6 个 AI“牛马”扎根桌面之后
作者实测腾讯 Marvis，它能实现终端调度、多 Agent 协同、跨模态任务链执行等。虽在编码、审美等方面有不足，但定位安全实用，适合普通用户，体现 AI 助手从对话工具向执行系统转变。
直播预约 | Transformer 模型能否通过连接训练数据中的离散知识进行推理？
为研究Transformer是否具备组合式推理能力，提出FTCT合成任务。实验发现Few - shot CoT提示可激发推理能力，训练与测试相似度、模型复杂度影响推理能力。还分析了其内在机制，展示其泛化推理潜力。
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。