搜索：AI模型安全 - AI Reading Hub

「AI模型安全」共找到 13863 篇相关文章

看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客

Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。

中德研究团队发布成果，给大模型外挂「逻辑脑」，结合答案集编程与LLM，构建神经 - 符号框架，提升空间推理准确率，让AI能说清逻辑、跨任务迁移，迈向更可靠的通用推理。

UIUC学者联合清华初创团队Astraculum，围绕LLM部署阶段持续学习问题展开研究，提出Social World Model框架，基于预测市场数据测试，经自蒸馏的7B模型击败了GPT-5.6等多款前沿大模型，还搭建了专用MLOps引擎TrajOps。

文章指出传统故障复盘存在诸多问题，借助AI能力可解决专业性和深度问题。介绍了智能复盘Agent，包括其核心使命、目标用户、核心价值和解决方案，还阐述了核心技术架构、实现方式及评测机制等，最后给出实战案例。

在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。

瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。

Speakr是完全自托管的AI会议助手，能将音频转文字、生成摘要、进行内容问答，离线运行保障隐私和安全。它功能丰富且轻巧，支持多平台，GitHub已破1.8K star。

百度秒哒负责人朱广翔指出，传统应用开发模式受“不可能三角”所困，而秒哒旨在破局。他还分享了AI时代生产力公式，强调多智能体协作关键，认为AI开发终极目标是让人聚焦创意，且不会取代产品经理和程序员。

据彭博社消息，李飞飞创办的World Labs正以约50亿美元估值进行新一轮最高5亿美元融资。此前已累计融资2.3亿美元。该公司研发“大世界模型”，推出3D世界生成模型Marble。此外，Yann LeCun创办的AMI Labs也获资本关注。

据报道，特朗普政府起草新出口管制规则，拟限制中国企业远程调用第三国先进AI服务器。规则或与Kimi K3模型有关，美国试图将硬件控制延伸到算力使用权，但面临法律界定、执行等难题。