「架构策略」共找到 2593 篇相关文章
图解Vllm V1系列4：加载模型权重(load_model)
文章聚焦vllm加载模型权重的流程。从入口函数切入，详细分析DefaultModelLoader的工作步骤，包括初始化模型架构和实际加载权重，还给出各步骤代码及作用，为想操作load_model的人提供框架。
教你构建私有 AI Coding 平台：Pi、DSH、Codex Harness 扩展能力对比与选型。
文章聚焦构建私有AI Coding平台，对比Pi、DeepSeek Harness、Codex Harness的架构、扩展能力及选型策略。介绍三者交互集成方式，分析其扩展特点，并为不同需求团队给出选择建议。
拒绝计算“一视同仁”！Elastic Attention：让大模型学会“看人下菜碟”
现代大语言模型用全注意力机制计算复杂度高，现有混合注意力策略是静态的。为此提出Elastic Attention，引入轻量级Attention Router，具备动态路由等亮点，在主流模型测试中效果好。
DeepSeek 新模型 R1-0528 悄悄开源，与o3 相当，实测来了。
DeepSeek团队悄无声息地在Hugging Face上开源推理模型新升级版DeepSeek R1-0528，基于DeepSeek-V3-0324模型，架构和训练方法有改进，性能与o3相当，实测表现不错。
挑战扩散自回归统治！字节提出视觉生成第三种路线，让模型像人类一样边画边改
五一期间字节商业化技术团队研发出新一代视觉生成模型，其底层架构是全新的第三条路——生成精炼网络GRN。它能让AI像人一样边画边改，解决了现有模型的问题，在多项基准测试中刷新SOTA记录。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
面壁MiniCPM4推理速度3倍，碾压同尺寸Qwen3，阿里上眼药了~
面壁发布包含10个模型的MiniCPM4系列，其推理速度快。它有高效模型架构、学习算法、高质量训练数据和推理系统等创新点，还给出了MiniCPM4实战代码及启用InfLLM v2的参数设置。
Qwen3新成员：Embedding系列模型登场！
今天正式发布Qwen3-Embedding系列模型，专为文本表征等任务设计，继承Qwen3多语言理解优势。在多项基准测试表现卓越，已在多平台开源，有卓越泛化性、灵活架构与多语言支持等特点。
Cloudflare 发布 Dynamic Workers 公开测试版：基于 Isolates 的沙箱环境执行 AI 智能体代码
Cloudflare 推出 Dynamic Worker 公开测试版，面向付费用户。它用 V8 Isolates 运行代码，启动快、内存效率高，基于 Code Mode 理念，用 TypeScript 接口定义 API，有多种防护策略，还发布配套库，已用于生产。
YC总裁开源个人AI记忆系统GBrain：让你的OpenClaw/Hermes长脑子
YC总裁Garry Tan开源GBrain，这是经实战检验的AI记忆中枢。它有真实数据规模、混合搜索架构等特点，核心工作流含实体检测等。技术选型有考量，还提供体验方式和技能包文档。