「大模型安全」共找到 9779 篇相关文章
硅谷刷屏的ClawdBot，让Mac mini卖爆了！创始人爆料：一人开发、100% AI 写代码，全开源却留 0.00001% 给全网来 hack
个人 AI 助手 ClawdBot 席卷硅谷，网友评价高，项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码，协作方式激进，创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患，还带火了 Mac Mini。
TruthfulRAG，用知识图谱硬刚RAG知识冲突
RAG系统存在知识冲突问题，现有解决方法治标不治本。TruthfulRAG将非结构化文本转化为结构化事实，通过图构建、图检索、冲突解决三大模块解决冲突，实验显示其表现优异，结构化表示还提升了LLM置信度。
刘鹏飞组发布上下文工程2.0：人机交互的全新视角
刘鹏飞组论文《Context Engineering 2.0: The Context of Context Engineering》重新梳理上下文工程领域。它追溯其20多年历史，给出形式化定义与四阶段模型，探讨关键问题，将其从技术技巧升为系统学科，为理解人机交互提供新视角。
从Sora2到TapNow：AI视频创作，差的是这套专业流程
国内知名导演欧阳英豪用AI打造百万级商业TVC，TapNow公开其创作流程。当下AI视频工具强，但能用于商业的TVC少，核心问题是不懂专业流程。TapNow将专业流程工具化，有五大核心功能，适合不同层次创作者。
用于评估AI Web渗透测试能力的工具：XBow Bechmark,比靶机更好
文章介绍了用于评估AI Web渗透测试能力的XBow Benchmark，它已在github开源。该基准含104个Web安全挑战，涵盖多种漏洞，设计确保可重复性和状态持久性，其评估能力获广泛认可，还介绍了开源内容等。
腾讯混元 TurboS 技术报告首次全公开：560B 参数混合 Mamba 架构，自适应长短链融合
日前腾讯混元 TurboS 技术报告全公开。它是超大型 Hybrid Transformer - Mamba 架构 MoE 模型，有自适应长短思维链机制，总参 560B。在多榜单成绩亮眼，多语种和多任务处理能力强，还介绍了核心创新、训练策略等。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。
全球第一，13个SOTA！我们找到了龙虾界掌管GUI的神
明略科技推出自研 GUI-VLA 智能体模型 Mano-P 1.0，不依赖 API 对接与浏览器场景，可操作桌面软件与网页界面。它在 13 个多模态基准榜单达 SOTA，支持本地运行，数据零上云，采用分阶段开源策略。
学会“吃一堑长一智"，性能飙升11%！XSKILL让AI积累经验和技能
XSKILL框架让AI像人一样积累经验和技能，将任务级技能与动作级经验统一到双流设计中，通过视觉接地提取和检索知识，在多个基准测试中显著提升性能，还展现出跨模型迁移性。
神图刷屏，全网SaaS大佬彻夜难眠！AI吞噬全球软件业，2027现死亡交叉
马斯克转发发言称AI正在吞噬全球软件行业，一张图显示2027年AI市场与SaaS估值将现死亡交叉，标志SaaS衰亡。AI普及使初创公司蚕食大厂领地，Adobe等软件公司面临危机，SaaS形态或改变。