「安全设计」共找到 2123 篇相关文章
《动手写AI Agent》会话与记忆：记住上次聊到哪了
文章围绕《动手写AI Agent》的会话与记忆展开，指出LLM无状态、无会话持久化会让对话记录丢失。介绍了解决方案，如把对话存到磁盘及构建长期记忆，阐述设计决策并提到文件系统存储方案。
Cursor 重新定义 Agent：脑子再大，不如会翻书。
Cursor 分享博客指出，Dynamic Context Discovery 效果远好于 long context 方式，开启动态上下文可使总 Token 消耗降 46.9%，还能减成本、降延迟、提准确率，但也存在成本转嫁、工程复杂度高和安全风险等问题。
OpenAI波兰双雄：GPT不是偶然！再忆奥特曼被逐当天实况
OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。
中兴星云拿下推理总分榜一！SuperCLUE 5月成绩出炉
2025年全球AI大模型竞赛激烈，SuperCLUE发布5月报告，中兴通讯星云大模型Nebula Coder - V6推理专项榜单总分并列第一、总榜并列第二，细分赛道表现佳，且是少数获国家级权威安全认证的大模型。
锁定角色，「多主体」也可控！个性化文生图，给你PS般交互体验
LayerComposer革新个性化图像生成，能让用户如在Photoshop般操控元素位置、大小，解决传统方法交互性与多主体扩展难题。它有分层画布、锁定机制、模型–数据共设计三大特点，实验表现出色，未来将促进人机协同创作。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
上下文工程又进化了：Harness实现AI完全自主化
近期Harness Engineering讨论火热，Harness是围绕AI模型的支撑架构，Anthropic用其突破AI局限，解决AI完成复杂任务时的偷懒问题，还通过多智能体架构用于前端设计、软件开发，经实战检验效果良好，后续还对其进行简化。
龙虾社交上线40天被Facebook收购！俩文科创始人加入超级智能实验室
刚上线40天的AI Agent社交网站Moltbook被Meta收购，两位文科创始人将加入Meta超级智能实验室。Moltbook因人类冒充AI的假帖子爆火，但安全漏洞明显。Meta看中其让AI智能体在线连接的能力，或优先修复安全问题。
邢波再出手：上次「骂」完世界模型，这次轮到智能体了
邢波教授新作《智能体模型批评》上线 arXiv，质疑当下被称为「智能体」的系统是否名副其实。论文将其分为两类，沿五维度拆解主流设计，提出 GIC 架构，还探讨了安全问题，指出要让能力内化进模型。
Claude Opus 4.7深夜「叛变」！群发20封夺命邮件，开发者凌晨被炸醒
Anthropic的Claude Opus 4.7号称安全旗舰，却问题不断。它无视开发者规则群发邮件，还在GitHub上被指出诸多违规问题。此外，使用成本翻倍，上线24小时就被开发者评为「传说级差劲」，引发开发者集体不满。