「大模型部署」共找到 9579 篇相关文章
小红书 AI 搜索负责人高龑确认出席 QCon 上海，分享小红书搜索的 LLM 进化之路
10月23 - 25日，QCon全球软件开发大会将在上海举办，聚焦多热门话题。小红书AI搜索负责人高龑将分享《从“搜内容”到“问AI”：小红书搜索的LLM进化之路》，介绍搜索实践及大模型应用经验。
追平GPT-4o，数学基测96.3%高分，Hermes4 来了
Nous Research推出新一代大模型Hermes 4系列，其有混合推理和长度控制机制，还能用DataForge“造”数据，经Atropos质检。它在数学等领域表现佳，追平GPT - 4o，是开源AI对巨头的挑战。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
扣子要做 Agent 时代的 Infra，附开源版搭建全流程
扣子宣布开源 Coze Studio，后端用 Golang，前端用 React 和 TypeScript，基于微服务架构。借助火山引擎 ECS 可一键部署，还能更换自定义模型。官方表示开源是为顺应趋势、确保安全及获开发者反馈。
市场还没爆发，但AI眼镜已经卷死了
今年5月多款AI眼镜新品上线，市场竞争激烈。硬件上芯片向高端手机靠拢，软件借AI大模型落地功能，还出现代工产业链。不过，国内AI眼镜在AI和软件功能上有不足，与市场需再磨合。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
从 SQL 到自然语言，下一代 Lakehouse 为何必须「AI 优先」
随着大模型技术爆发，数据分析范式重构，未来数据多模态、分析复杂、查询方式转变。文章指出构建下一代 AI-First Lakehouse，要在存储计算、内核能力、架构适配、平台自治等方面升级，打破数据壁垒。
有什么事情是当了程序员之后才知道的？
本文是腾讯程序员分享当程序员后才知道的事，如改一行代码能崩项目、本地部署模型可免费搞定等，还给出多个有趣观点，最后发起评论互动并抽取粉丝送Q币卡。
更多thinking≠更好结果，精准thinking可砍掉一半长度
当前大模型如GPT - 4、DeepSeek推理又长又啰嗦，论文发现其在简单题目上过度推理。作者提出‘无效思考’概念，还给出解决原则，用LC - R1方法训练，效果显著，揭示精准思考才是王道。
Claude：Profile and Preference
文章借与Claude对话，探讨Profile和Preference概念，分析其区别联系，指出AI时代借助大模型理解用户的变化，还谈及数据源、实时个性化、偶然性、广告变革等问题，最后Claude为作者生成简易画像。