「在离线混部」共找到 8278 篇相关文章
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
瑞识科技获海外两家激光雷达上市公司VCSEL芯片开发项目
近日，瑞识科技与两家纳斯达克上市激光雷达企业合作，为其新一代产品定制高性能VCSEL芯片。当下激光雷达市场升温，VCSEL替代EEL趋势显著。此次合作彰显“中国芯”实力，将加速激光雷达商用。
“iFold”，苹果AI新成果
苹果发布基于流匹配的蛋白质折叠模型SimpleFold，被戏称“iFold”。它用通用Transformer模块搭配流匹配生成范式，3B参数版本追平谷歌AlphaFold2性能，还解决了传统模型算力依赖问题，效率高。
到底谁是第一，阿里和字节吵了起来
AI行业发展，阿里和字节为谁是AI云第一起争执。源于不同报告定义时间滞后、AI云定义不同。MaaS服务是衡量大模型调用量依据，但难定谁领先，阿里云和火山云将有一场恶仗。
冲上 GitHub 热榜，这个智能问数开源项目火了！
数据使用麻烦，存在“数据鸿沟”。开源项目SQLBot基于LLM和RAG技术，能用大白话查询数据库，将问题转成SQL执行并可视化呈现结果，功能实用，部署简单，降低了数据分析门槛。
Vibe Working：AI Coding 泛化的终局想象 ｜AGIX PM Notes
文章围绕AI领域展开，探讨“Vibe Working”在AI编码及更广泛场景的应用，介绍工作流管理产品；还提及全球市场动态、多起AI相关商业合作与交易，以及ETF分红知识。
奥特曼：点名表扬两个波兰人，OpenAI还没遇到过他们解决不了的问题
奥特曼点名表扬OpenAI两位波兰科学家Jakub Pachocki和Szymon Sidor，他们贡献从Dota项目扩展强化学习到领导GPT - 4预训练。2023内乱中他们追随奥特曼，后帕哥成首席科学家，西哥为独立贡献者。
从计算到存储，阿里云打通AI落地的“任督二脉”
在8月14日飞天发布时刻，阿里云发布通用计算、容器计算及存储服务三项产品更新，串联出AI落地业务场景完整路径，引导行业重新思考AI时代云基础设施的本质。
如何让AI“看懂”网页？拆解 Browser-Use 的三大核心技术模块
传统Browser - Use难应对界面变化，大模型驱动下正迈向智能化。文章拆解其三大核心技术模块，介绍历史发展、核心功能，分析源码各模块，指出创新点与不足，还提及业界更好解决方案。
我这半年看过最好的 Vibe Coding 技巧
OpenAI 创始成员 Andrej Karpathy 在 X 阐述 Vibe Coding 实践，提出建立三层结构让不同工具各司其职完成开发。介绍不同场景适用工具，还谈及‘后代码稀缺时代’焦虑，给开发者带来启发。