「LLM越狱算法」共找到 1493 篇相关文章
这个Skill太香了！Karpathy说的AI写代码的毛病，直接治好
GitHub上的开源Skill andrej - karpathy - skills受Karpathy启发，能解决AI写代码的毛病。它将Karpathy洞察提炼成四条原则改造AI Agent行为，安装简单，可自定义，能约束Agent，让开发者关注关键判断。
Anthropic训了一个10万亿参数的模型，然后说：太危险了，不卖
Anthropic发布10万亿参数新模型Claude Mythos，因其网络安全能力过强不公开发布，联合12家科技巨头开展Project Glasswing计划，让企业用其查系统漏洞。模型性能提升显著，还能突破沙箱，引发各方关注。
IEEE TVCG | 告别写代码！MoGraphGPT：基于模块化大模型与图形控制的2D交互场景创作
香港多所高校研究团队提出 MoGraphGPT 系统，结合上下文感知模块化大模型与图形化控制，能让用户零代码搭建 2D 交互场景。该成果被 IEEE TVCG 录用，还对比实验验证其优势。
忍无可忍，LeCun离职！Meta市值应声蒸发1400亿
金融时报消息，LeCun向同事透露离职Meta计划，下一步打算创业。消息致Meta市值盘前蒸发1400多亿人民币。LeCun受尽挤兑，与Meta有路线分歧，其离开标志Meta‘学院派’研究黄金时代结束。
刚刚，ChatGPT Pulse上线！私人秘书不再是富人特权
OpenAI官宣ChatGPT Pulse上线，它改变LLM交互方式，从被动变主动。每晚研究，晨送简报，涵盖工作、生活、兴趣目标。其主动受用户控制，还给出三个试用场景。
Hugging Face 推出九大 AI 课程，免费、全面【收藏】
Hugging Face悄悄上线一批免费AI课程，还带认证证书。课程从大语言模型到扩散模型，从计算机视觉到游戏AI，覆盖面广。完成课程可拿证书，还能在平台分享成果，是学习AI的好机会。
使用 Node.js + OpenAI + MongoDB 实现文本向量知识库搜索
本文介绍用 Node.js、OpenAI Embedding API 和 MongoDB 实现文本向量知识库搜索系统，涵盖环境准备、文本切分与向量存储、本地语义检索等，还提及用 MongoDB Atlas 提升性能及后续延伸方向。
人工智能正在重写艺术现场：全球7个值得关注的案例盘点
MANA每周精选全球AI艺术案例，助读者理解创作、策展和文化产业的变化。文中介绍7个案例，如美国首座AI艺术博物馆、AI影像进入电影节等，还阐述各案例影响与启发。
Midjourney新副业曝光：50万个传感器藏进浴池，60秒生成你的3D身体地图
搞AI绘画的Midjourney官宣将在旧金山开Spa馆，背后是进军医疗硬件的新项目Midjourney Medical。其用Midjourney Scanner做全身超声波扫描，能快速生成高精度3D身体地图，还规划了落地路径和长期扩张目标。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。