「企业成本」共找到 2630 篇相关文章
KV-Cache 实战策略：生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中，KV - Cache 是平衡性能与成本的核心技术，但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术，结合原理、实践与案例，为开发者提供解决方案，还探讨了未来演进方向。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
一位工程师对“好代码”的 7 年思考
本文围绕“什么是好代码”展开，作者结合自身职业发展，从初入职场的“黑盒认知”到深入思考多维度评价标准。还介绍代码评审标准，从稳定、体验、效率、成本衡量。最后给出写好代码的方法和面临的挑战。
EMNLP25 | "大模型在环"技术新突破：Dial-In LLM 推动中文客服意图聚类新范式
本文提出LLM-in-the-loop意图聚类框架，以传统聚类为骨架，微调后的中文LLM做语义裁判和命名批注。在10万+真实客服通话数据集上超越基线，解决现有方法依赖词向量、缺乏可解释性、调用大模型成本高的问题。
英伟达咽喉上的苏州女人
一份英伟达供应链名单让英诺赛科进入大众视野。其创始人骆薇薇九年前回国创业，带领公司从“三无小作坊”逆袭。英诺赛科采用IDM模式和8英寸工艺，成全球首家量产8英寸硅基氮化镓晶圆企业，还将与英伟达合作。
北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署！
北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。
用户集体大逃亡！Cursor“自杀式政策”致口碑崩塌：“补贴”换来的王座，正被反噬撕碎
很多开发者吐槽并弃用 Cursor，因其付费后砍功能、技术变差、营销像‘障眼法’，引发信任危机。部分用户转向 Claude Code，不过企业侧使用情况有差异。AI 编程工具竞争激烈，需多维度构建优势，市场未来趋势明显。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。
这个 AI 产品，给了我久违的惊喜。
作者曾探讨为何此前无出圈客服 Agent 产品，认为做 Demo 易，生产环境可用门槛高。本周阿里瓴羊团队发布企业级客服 Agent，它能处理退款、补发等流程，采用人机分工模式，务实靠谱，有望改善客服行业现状。
95后，边改造业务边发AI顶会论文，是怎样的体验？
当下AI人才竞争激烈，企业各出奇招。今年5月京东技术沙龙零售专场，技术团队分享成果。几位95后青年专家讲述成长历程，如洛川解决CTR模型训练瓶颈，谦屹发表多篇顶会论文。京东还推出人才计划吸引人才。