搜索：1.5B 模型 - AI Reading Hub

「1.5B 模型」共找到 9269 篇相关文章

图解Vllm V1系列7：使用AsyncLLM做异步推理

文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。

2月28日，DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势，深入解读3FS的组件、CRAQ协议等，还探讨其与其他系统差异及性能相关问题。

本文针对企业落地AI Agent遇到的知识口径不一、推理慢、风险不可控等痛点，介绍华为AI数据平台三大升级路线，结合案例说明方案价值。

本文介绍browser-use推出的开源高速浏览器智能体jev-ultrafast，详解其核心提速原理、功能特性，给出安装教程，提示项目不足，推荐开发者参考。

自ChatGPT问世，Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构，有望解决商用等关键问题。

Wayve的LA - Pose研究，不依赖百万级3D标注，从约1000万段未标注驾驶视频自监督学习‘潜在动作’，再用少量3D标注微调，转化为相机位姿估计能力，在多基准上提升精度且泛化能力强。

据路透社5月13日报道，三星电子与韩国工会薪资谈判破裂，超5万工人或罢工，扰乱AI及其他芯片生产。双方争端核心是绩效奖金分配，工会诉求未得到解决，若不满足将在5月21日开启18天罢工。

卡内基梅隆大学研究发现，GitHub约600万颗假星，18617个仓库涉假，AI/LLM项目是重灾区。造假产业化，有分层定价、售后保障。买星为融资，形成恶性闭环，判断项目好坏还得看硬指标。

文章类比 Chrome 的 Life of a Pixel，追踪 LLM 里 token 从输入到输出的全程。以 GPT - 2 Small 为例，详细讲解其管线各阶段，如 Tokenization、Embedding 等，还介绍了残差流、KV Cache 等概念及 GPU 性能瓶颈和优化方法。

OpenAI研究员Noam分享Keller Jordan、Sholto Douglas等“非典型”研究员经历，他们主动性强、公开研究，无博士学位也进入前沿AI实验室。现在进大厂，博士学位非必需，尽早进厂更好。