「构建和部署」共找到 8410 篇相关文章
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
美7000万人或被取代，Agent光速卷入职场！北大校友、杨笛一新作
斯坦福大学研究团队调查104个职业领域1500名专家及52名AI研究员，构建WORKBank数据库。研究发现职场AI需求与能力错配，工人对AI态度不一，还揭示未来人类技能变化趋势。
MiniMax秀了波AI视频杂技：越看越惊艳，指令遵循太强了
MiniMax发布海螺2.0版本，能处理极端物理情况，原生支持1080P，在指令遵循、生成质量达一流水平，成本效率破纪录。此前还开源MiniMax - M1，两大底层技术创新让其成果惊艳，展现研发实力。
性能比肩DeepSeek-R1，MiniMax仅花380万训出推理大模型性价比新王｜开源
MiniMax开源推理大模型MiniMax - M1，原生支持100万token输入、8万输出，性能比肩DeepSeek - R1，仅花380万训成。采用Lightning Attention机制与CISPO算法，在多领域表现出色，模型权重可在HuggingFace下载。
“AI原生”觉醒：企业数智化的弯道超车时刻｜甲子光年
当下‘AI原生’成共识，但不少企业有数据难转化、有工具难成闭环。文章提出‘数据×工具×组织’三重进化框架，介绍数据智能化趋势、火山引擎Data Agent等，还为企业拥抱Data+AI给出建议。
奥特曼：温和奇点已降临！AI最终掌控物理世界，2030年人类命运大转折
奥特曼在「温和的奇点」一文中称人类跨越AI发展「事件视界」，进入指数级加速阶段。他预测了未来5年技术时间线，还指出奇点悄然渗透，AI自转飞轮越来越快，人类迈向超级智能时代机遇与挑战并存。
浅析 rust 大明星 Tokio
本文剖析热门Rust库Tokio，介绍其优势与适用场景，从Rust异步着手，分析架构、调度生命周期，还对比Nginx，探讨绑核方法与未来方向，如支持IO Uring、扩展协议栈等。
Mamba 架构实现推理性能超 Gemma3-27B！推理模型开始迈入「无注意力」时代
PromptCoT - Mamba是首个具解码显存常量等特性且推理能力强的模型。当前推理大模型中注意力机制有局限，PromptCoT - Mamba实现无注意力推理，在多评测集超Transformer等模型，为无注意力推理生态奠基。
王兴兴回应比赛风波：挣到钱了，但现在的机器人别指望它能干活
2025北京智源大会上，宇树科技王兴兴、北京人形机器人创新中心熊友军等围绕具身智能探讨。提到机器人赛事能展示成果、促进行业发展；对机器人构型看法不一；还探讨了VLA泛化性等问题。
AI加持的开源知识库新秀：PandaWiki，如何用它打造智能化文档系统？
PandaWiki 是长亭科技开发的 AI 大模型驱动的开源知识库搭建系统，能助力用户快速构建智能化文档系统。它有 AI 创作、问答、搜索等功能，安装简单，适用于多场景，优势明显。