「LLM越狱算法」共找到 1508 篇相关文章
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
SGLang 贴近硬件：用编译产物（PTX/SASS）评审 PR #26588、DeepGEMM 与架构迁移
本文从「编译产物评审」视角，分析 SGLang 的 PR、FlashInfer DeepGEMM 及 Ampere→Hopper 架构迁移案例。指出算法面和编译产物面会有分歧，编译产物 diff 能提前揭示执行路径变化，对开源项目有增益。
6.2k 谷歌开源LangExtract，主打精确溯源的长文档抽取
谷歌开源 Python 库 LangExtract，能让 LLM 依用户指令从非结构化文档提取结构化信息。它可处理临床记录等，具备精确源接地、可靠输出等特性，支持多模型，无需微调，适用于各领域。
人形机器人终于学会洗碗了
Figure机器人学会洗碗，用的是叠毛巾和分包裹同款Helix架构，无新算法和特殊工程，仅增加新数据。该架构是端到端“视觉 - 语言 - 动作”模型，同一系统增数据就能学新技能。
《西部世界》开始加载，「斯坦福小镇」团队创业，李飞飞、Karpathy都投了
2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。
睡觉也在卷！伯克利Letta新作「睡眠时计算」让推理效率飙升
Letta和UC伯克利研究者提出「睡眠时计算」技术，能让LLM在空闲时间提前思考以提升推理效率，降低推理成本，在多数据集实验中展现优势，在软件工程任务中也有应用。
Sora2甚至可以预测ChatGPT的输出
Sora2表现太卷，能预测ChatGPT输出，模拟交互还能渲染HTML，懂代码也懂物理，能体现玻璃折射现象，还能精准还原游戏支线任务关键要素，或基于LLM训练。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
从私域知识到智能 Agent：构建智能运维知识库
抖音算法工程师王宁在 QCon 大会分享，介绍将私域知识与 LLM 融合构建运维系统的方法，详解 SOPAgent 架构解决传统 AIOps 难题，还提及多模态数据处理、知识管理体系等亮点。
不改模型、不降质量，谷歌让Gemma 4快了3倍：本地跑大模型彻底变天
谷歌给Gemma 4家族更新Multi - Token Prediction推测解码架构，推理速度最高提升3倍且输出质量不变。介绍了LLM推理慢的原因、MTP解决办法、对开发者的利好、技术细节、使用方式等。