「组件化」共找到 922 篇相关文章
深度拆解,硬核解构,揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统,介绍其核心组件和高级特性,包括推理引擎流程、调度机制、高级功能等,还提及系统扩展、分布式部署、性能测量等内容,助力读者理解推理引擎工作原理。
让Agents更聪明,3招搞定记忆管理~
文章深度分析开源项目Memori,探讨Agent记忆管理。它将记忆分短期和长期,通过三个Agent协同工作实现长短期记忆功能,使记忆成结构化知识库,且能无缝衔接多种API。
全球闲置算力训个模型,性能媲美R1,老黄天塌了!Karpathy曾投资它
全球首个分布式RL训练模型INTELLECT - 2发布,整合闲置算力完成训练,成本降低,性能媲美DeepSeek - R1。其采用分布式异步强化学习范式,团队开源四大关键组件,还获Karpathy等投资,未来有多项计划。
独立自主梦太多,是国产化的最大阻碍
我国虽建立完整工业体系,但 IT 领域差距大。国产基础组件百花齐放,给上层应用适配带来灾难。美国在基础能力上近乎垄断,大投入保持领先。国内小投入难出好产品,应整合市场。
240 款 AI 软件定价分析:从席位到成果,AI 定价的五种趋势
国外科技作者 Kyle Poyar 收集超 240 家软件公司数据,分析 AI 软件定价。指出传统定价面临挑战,混合定价成主流,还介绍常见策略、结果定价问题、价格透明化困境及企业准备不足等情况。
这届网友太狠了:Clawdbot爆火,狂囤40台Mac mini来跑
周末,AI 助手 Clawdbot 爆火,顺带带火了 Mac mini。它可在聊天软件中对话、自动完成任务,由四大核心组件支撑,应用场景广泛,创始人 Peter Steinberger 于 2026 年 1 月发布该开源项目。
Vercel 推出 Drains 功能:实现统一数据导出
Vercel 发布 Drains 系统,将平台可观测性数据统一导出至外部服务,覆盖多来源日志等。用户可两种方式配置,导出数据与多系统兼容,能简化接入流程、减少管道碎片化。
Karpathy头疼的“AI游戏困境”,被这款15分钟出包的国产神器破解了
8月初Andrej Karpathy指出通用AI做游戏时,LLM无法高效审查工作的弱点。而国产平台Spellcaster能先解析自然语言确定游戏设计,15分钟出包,还内置测试员验证,团队想工程化落地新方向。
为什么我坚决投入GEO(生成式引擎优化)?
AI改变流量分配规则,站长竞争焦点从‘排名位置’变为‘被引用率’,GEO应运而生。作者总结了GEO打法,如优化全站、关键页面,做结构化数据增强,还应用于自身产品。
上下文工程(Context Engineering)综述:大模型的下一个前沿
文章提出“上下文工程”学科,通过整合1400余篇论文构建“基础组件 - 系统实现”框架。它将上下文定义为动态结构化信息集合,揭示LLMs理解强于生成的矛盾,为AI研究指明方向。