「层级权重共享」共找到 373 篇相关文章
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
The Batch: 922 | 面向智能体的管理系统
OpenAI 发布 Frontier 平台，用于编排和管理企业级 AI 智能体团队。它支持智能体构建、信息共享等，Cisco 等已试点，未来将更广泛开放。与 Microsoft 的 Agent 365 有不同侧重，企业对智能体集中管理需求渐显。
记录下SGLang 开发，debug的几个技巧第二弹
作者BBuf继上次分享后，又带来SGLang开发、debug新技巧。包括开启多线程加载模型权重，介绍SGLang Serve模型短期和长期崩溃的调试方法，还提及逐层NVTX Profiling、查看固定batch_size下Decoding性能等技巧。
The Batch: 862 | OpenAI 的重新"开放"
OpenAI 发布自 2019 年 GPT - 2 以来首个开源权重模型 gpt - oss 系列，含 gpt - oss - 120b 和 gpt - oss - 20b，为智能体应用设计，免费使用修改。介绍其输入输出、架构等，还对比了性能表现。
谷歌突砍Gemini免费版炸锅，数据养模遭背刺？GPT-5.2突袭Gemini 3，Demis Hassabis：谷歌须占最强位
近日谷歌收紧Gemini API免费层级限制，引发开发者不满。同时，OpenAI计划提前发布GPT - 5.2竞争。谷歌DeepMind的Hassabis表示要与OpenAI竞争到底，对Gemini 3满意，还介绍了谷歌未来三个主打方向。
告别微调时代：拖拽式LLMs实现12000倍加速适配，输入描述，秒级定制LLM，效果、速度全面超越
传统高效微调技术成大规模部署瓶颈，论文提出Drag-and-Drop LLMs (DnD)，仅需输入目标任务未标注提示，即可秒级生成适配的LoRA权重，实现LLM秒级免训练适配，效率、性能和泛化性上均有突破。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
李开复入场Agent！零一万物推出“万仔”，直接对话CEO走独特“一把手工程打法”
今早，李开复宣布零一万物升级万智平台2.0并推出企业级Agent智能体。他指出AI Agent正重构企业架构，零一万物采用“一把手工程打法”，万智2.0有五大功能，还预计了AI Agent三个演进层级。
1000+页PDF解析速度暴涨3倍，MinerU模式不香了
百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。
20美元，撕开人类思维鸿沟！宾大教授警告AI隐形阶层战
宾大教授Ethan Mollick指出，AI已成新社会基础设施，正制造人类内部分层。从免费到20美元、200美元，不同付费层级对应不同使用模式和能力，思维差异才是关键，未来需培养与AI协作的直觉。