「安全框架」共找到 2452 篇相关文章
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
Linux 基金会推出 Akrites 项目，防护核心开源软件免受 AI 网络威胁侵害
Linux 基金会发起 Akrites 项目，获超 20 家机构支持，旨在保护关键开源软件免受 AI 网络威胁。它建立协调框架，改进漏洞处理方式，补充现有工作，反映网络安全理念转变。
刚刚开源就斩获 46K+ Star！生化危机女主在 GitHub 开源了一个本地 AI 记忆系统！
好莱坞女星 Milla Jovovich 针对 AI 记忆痛点，用 Claude Code 开发本地 AI 记忆系统 MemPalace。它存储全部对话，检索快，召回率高、数据安全、扩展性强，适用多类人群。
物理-数据双驱动的大迎角非定常气动力建模 | 航空学报CJA
现代飞行器大迎角机动时，气动力复杂，现有建模方法面临两难。论文提出DEM - LSTM混合框架，结合专家经验与数据驱动，解决小样本、强非线性挑战，经算例验证性能优势明显。
演讲生成黑科技，PresentAgent从文本到演讲视频
联合团队提出 PresentAgent，能将长篇文档转化为带解说演示视频。采用模块化流程，还引入 PresentEval 评估框架。实验显示其接近人类表现，优于现有方案，展现了多模态智能体潜力。
引发美股持续下跌的好文：2028年全球智能危机
CitriniResearch的文章推演2025 - 2028年AI引发全球智能危机的过程。AI虽提升生产力，但导致失业率上升、消费下降、中介业务崩溃、抵押贷款系统受威胁等，呼吁建立新经济框架。
功能全面的Agent！吸取了open-manus,langmanus众家之长
Cooragent是在langmanus基础上重大改进的Agent框架。文章介绍其本地部署、CLI工具使用、添加MCP服务等实战操作，还提及深度兼容Langchain工具链、支持MCP等特点，有两种工作模式。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
SRO赋能Qwen-2.5-VL推理性能飙升16.8%
文本领域推理模型成就大，但多模态大型语言模型推理能力扩展遇阻，如冷启动初始化不足等。提出SRO三阶段训练框架，经测试，ReVisual - R1平均性能提升16.8%。
告别盲选LLM！ICML 2025新研究解释大模型选择的「玄学」
弗吉尼亚理工大学研究团队提出 LensLLM 框架，基于 PAC - 贝叶斯泛化界限揭示 LLM 微调性能“双相演进”，可精准预测微调性能、大幅降低计算成本，为 LLM 选型提供新工具。