「向量管理」共找到 605 篇相关文章
Anthropic官宣PTC突破,中国开发者一年前就实现了
2025年11月24日,Anthropic发布PTC特性,让Claude通过代码编排工具执行。但国产minion框架早有类似架构,不仅将此作为基础架构,还支持Python生态、状态管理等功能,在实际应用中更高效灵活。
关键技术详解|腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等,还对比不同框架,指出优化方向,如先实现 PP,再推进 EP 与 PD 分离。
Meta AI部门大地震!小扎急派心腹干将「救火」
Meta AI部门再现人事大地震,前元宇宙负责人Vishal Shah转岗任人工智能产品副总裁,协助Nat Friedman整合AI产品战略。此次调整与Friedman近期管理表现相关,Shah经验丰富或助Meta AI更稳健发展。
OpenAI官方揭秘:我们这样用Codex写代码「7大核心用法、6条最佳实践首次公开」
本文基于对OpenAI工程师访谈和内部数据,汇编了Codex的7大核心用法,如代码理解、重构与迁移等,还给出6条最佳实践,展示其如何助力团队高效工作、提升质量及管理复杂性。
炸裂提速30倍!Meta提出REFRAF,无需改动模型,让RAG告别冗余与等待
近年来,RAG任务在提升模型回答质量的同时带来性能代价,Meta等团队合作提出REFRAG框架。它将无关段落压缩,引入强化学习选关键段落,实现高达30.85倍的TTFT加速,且无需改模型结构,实用性强。
从BERT到T5再到Qwen3:关于Embedding的八点总结
哈工大30+页综述聚焦通用文本嵌入(GPTE),系统介绍其架构、数据、模型,探讨预训练语言模型(PLM)给GPTE带来的基础能力与高级扩展,还涉及多模态、多语言、代码嵌入等应用。
AI 时代操作系统的三重叙事:技术重构、国产化突围与生态共建
《AI 进化论:智算时代操作系统的破局之路》首期,周明辉、马涛围绕 AI 对操作系统的影响等核心命题展开对话。指出 AI 让操作系统面临挑战,技术演进分两条路径,还谈到安全、国产化、生态共建等问题。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广,Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案,整合成模型网关,具备五项核心功能,提升了资源效率、稳定性和易用性。
好奇心之旅:Cursor代码库索引机制的学习笔记
作者作为高德信息工程团队AI先锋队一员,日常用Cursor开发,因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等,还研究Merkle树、turbopuffer向量库及开源方案Continue。
GitLab 18.0 发布,引入 AI 编码助手
GitLab发布自托管DevSecOps平台18.0版本,为Premium和Ultimate档引入更多AI功能,如代码建议、智能聊天、自动代码分析等,还在性能、安全、管理等方面有改进,部分用户升级遇问题。