「架构设计」共找到 2858 篇相关文章
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
落地商用开启国产一体化智算新时代，蓝芯算力LX500亮相滴水湖RISC-V产业论坛
2026年8月13日，第五届滴水湖中国RISC - V产业论坛召开。蓝芯算力生态营销负责人许庆伟以核心产品LX500为线索，从架构、算力、商业落地三方面，展示国产RISC - V算力商用路径。
Claude Opus 4.7 上手实测：花7倍价格买输出，值不值？
作者实测Claude Opus 4.7，其定价约为GPT - 4.5的6 - 7.5倍。它有全新架构、强化Agent能力等升级，在代码生成、推理分析等多场景表现出色，是否值高价取决于使用场景。
智普入局OCR! GLM-OCR 0.9B 也杀进来了~
OCR是上古任务，如今大模型纷纷入局，用1B以下小参数模型搅动解析市场。GLM-OCR能做文本识别等，采用三级架构，有两阶段流水线及训练机制创新，在多场景表现出色。
官宣！姚顺雨出任腾讯首席AI科学家，带队大语言模型、AI Infra
12月17日腾讯官方消息，腾讯升级大模型研发架构，新成立AI Infra部等。姚顺雨出任首席AI科学家，兼任AI Infra部、大语言模型部负责人，他在智能体方向成果多，论文总引用超1.9万。
登上NeurIPS，Genesis开创无需OCC引导的多模态生成新范式，在视频与激光雷达指标上达到SOTA水平
华中科技大学与小米汽车提出多模态图像 - 点云联合生成框架Genesis，采用两阶段架构和DataCrafter模块。在nuScenes数据集实验显示，其在视频与激光雷达指标达SOTA水平，还提升了下游感知任务效果。
一次缓存引发的文件系统数据不一致问题排查与深度解析
本文详述由自研分布式文件系统客户端 EFC 缓存架构更新引发的数据不一致问题排查过程。经多轮分析，发现是版本号回退致客户端读旧数据。修复后测试无异常，还揭秘部分 POSIX 接口底层情况。
SIGIR 2025 | 解决扩展和迁移难题，华为新加坡提出InstructRAG，提升高达19%
大语言模型任务规划面临可扩展性和可迁移性挑战，华为新加坡团队提出 InstructRAG 方案，通过多智能体协同架构实现指令图扩展与少样本任务迁移，在多数据集测试中性能提升高达 19.2%。
不盲目跟风：消息代理选型实战指南
消息系统在分布式架构中至关重要，消息代理选型常缺系统方法。文章剖析 Apache Kafka 与亚马逊 SQS 特性，对比它们在命令、ECST、事件通知三种消息模式下的适配性，为选型提供参考。
1.7K star!找到啦，小众需求，但是需求的时候你一定用得上，企业级能源管理神器
MyEMS是开源能源管理系统新标杆，基于Python+Django构建，提供完整解决方案。支持多场景能耗监控，通过可视化报表和AI算法优化能效，助企业降15%-30%能源成本，还介绍了其功能、架构等。