「AI推理成本」共找到 11721 篇相关文章
一位工程师对“好代码”的 7 年思考
本文围绕“什么是好代码”展开，作者结合自身职业发展，从初入职场的“黑盒认知”到深入思考多维度评价标准。还介绍代码评审标准，从稳定、体验、效率、成本衡量。最后给出写好代码的方法和面临的挑战。
EMNLP25 | "大模型在环"技术新突破：Dial-In LLM 推动中文客服意图聚类新范式
本文提出LLM-in-the-loop意图聚类框架，以传统聚类为骨架，微调后的中文LLM做语义裁判和命名批注。在10万+真实客服通话数据集上超越基线，解决现有方法依赖词向量、缺乏可解释性、调用大模型成本高的问题。
Data Agent 落地挑战：忽略技术框架、语义能力和运营体系，投入可能打水漂
Data Agent 落地挑战大，90% 难点源于软件工程，统一语义层建设是关键。企业若忽略场景聚焦、技术框架迭代能力、语义模型和运营体系，投入可能打水漂。掌握相关要素，才能让 AI 代理落地应用，提升企业数据智能化效率。
智谱终于发布GLM-4.5技术报告，从预训练到后训练，细节大公开
上个月底智谱开源 GLM-4.5 及轻量版，成绩亮眼引热议。现其技术报告发布，详述预训练到后训练细节，还介绍了开源 RL 框架 slime，展示模型架构、训练阶段等，评估了在多任务上的表现。
你的扫描全能王，作价217亿冲刺港股IPO
扫描全能王母公司合合信息拟作价217亿赴港IPO，冲刺“A+H”双重上市。其C端有扫描全能王等产品，B端有TextIn等产品。合合以文本智能技术为核心，打造三大技术平台，C端靠付费订阅、B端卖产品模块盈利。
如何做到在手机上实时跑3D真人数字人？MNN-TaoAvatar开源了！
阿里巴巴淘宝Meta技术团队研发的TaoAvatar技术，能在手机或XR设备实现3D数字人实时渲染与AI对话。今日开源MNN - TaoAvatar应用，可在手机运行，对比主流方案更高效便捷，还介绍其优势、技术及使用说明。
昇腾910B大模型实测：开源框架能不能打？真相全放这了
文章对昇腾 910B 大模型进行实测，对比 vLLM Ascend 与 MindIE 在实际推理场景中的性能差异。通过 GPUStack 平台测试多种模型，结果显示两者在不同部署场景各有优势，vLLM 适合单卡小模型，MindIE 适合大模型多卡部署。
小红书hi lab首次开源文本大模型，训练资源不到Qwen2.5 72B 的四分之一
6月6日，小红书hi lab团队首次开源文本大模型dots.llm1，采用MIT许可证。该模型激活参数量140亿，总参数量1420亿，上下文长度32K。训练资源不到Qwen2.5 72B的四分之一，在多个测评中表现出色。
Cursor迎来史诗级更新，关于Cursor 1.0.0版本，这里有你需要知道的一切！
2025年6月5日，上线2年的Cursor迎来首个正式版1.0.0。此次更新功能多且关键，如上线代码审查工具Bugbot、全面开放后台代理功能等，虽提升了开发效率，但部分功能有使用成本，对新手不太友好。
这款开源神器把Excel翻译卷出新高度！免费、无限文件大小、公式精准！
翻译大型或复杂文档一直是痛点，免费工具效果差或限制文件大小，付费成本高。infrost开发的DeeplxFile基于Deeplx和Playwright打造，免费、不限文件大小，擅长处理超长文本和复杂Excel公式，还能转PDF为可编辑文件。