「机制设计」共找到 2109 篇相关文章
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
牛芯基于UB协议，以IP筑牢生态根基
本文围绕牛芯半导体在UB协议生态中的IP布局展开。UB协议填补国内空白、打破国外垄断，牛芯的PHY IP等取得进展。还介绍其设计理念、架构优势等，如对等架构、单边语义等，以及在内存池、拥塞控制等方面的应用，助力开放算力生态。
阿里：RL强化LLM推理，是技巧还是陷阱？
近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。
AI 基础知识从 0.5 到 0.6—— Transformer 架构为何能统治AI领域？
文章围绕Transformer架构展开，先介绍其诞生背景，对比CNN、RNN等模型，阐述其在多领域的核心地位。接着剖析工作流程、实现原理，包括QKV机制、多头注意力等。最后列举T5、GPT等常见架构模型，并提及通义千问3与MCP协议。
Google开源MCP数据库工具箱轻松连接各类数据库
近日Google开源新项目genai - toolbox，它是为数据库设计的MCP服务器，能让开发者用不到10行代码将数据库工具集成到AI应用。该项目封装复杂问题，有动态工具注册机制，支持主流数据库，提供多语言SDK和多种部署方式。
MiniMax开源首个视觉RL统一框架，闫俊杰领衔！推理感知两手抓，性能横扫MEGA-Bench
MiniMax开源首个视觉RL统一框架V-Triune，由闫俊杰领衔。该框架通过三层组件设计和动态IoU奖励机制，让VLM能联合学习推理和感知任务。还开发Orsta模型系列，在MEGA - Bench表现出色，且MiniMax多模态布局动作多。
突发，OpenAI首颗「辣椒」芯片压倒英伟达！GPT-6干崩CUDA
OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼，AI推理性能超英伟达全系，功耗仅为一半。它从设计到流片仅用九个月，得益于GPT - Astra协助。有观点认为CUDA护城河或已死，OpenAI正打造算力版图。
生财有术小连：微信问一问蓝海机会，用搜索玩法抢占流量先机
生财有术小连分享微信问一问运营经验，指出其支持真人分享、有“去AI化”特点及“强SEO搜索、排名”机制。介绍视觉霸占、抢词根等玩法，还给出内容与ID绑定等运营建议，称当前是SEO玩法的蓝海时期。
MCP for 可观测2.0，6个让MCP开发更高效的小妙招
文章介绍MCP这一开放协议，它能标准化AI模型与不同数据源和工具连接。分享配置MCP开发所需客户端、API等步骤，阐述阿里云可观测2.0融合MCP的实践及效果，还给出设计MCP Server的6个经验，最后展望了MCP应用场景和可观测2.0+AI未来。
为什么说多模态是推荐系统破局的关键？来自饿了么一线的实战复盘
文章围绕多模态推荐展开，从传统推荐算法演进到多模态表征技术，结合饿了么场景实践，还探索生成式推荐。介绍多模态推荐挑战与代表性工作，梳理表征技术发展，详述饿了么系统设计与训练，分析生成式推荐方案及业界路线。