搜索：模型服务接口

「模型服务接口」共找到 8183 篇相关文章

AICon上海演讲精华回顾：《GMI Cloud 全球化高性能分布式推理服务构建实践》

AICon2025上海站，GMI Cloud资深架构师Frank Lee分享《GMI Cloud全球化高性能分布式推理服务构建实践》，介绍其推理平台，拆解扩缩容等能力，分享架构设计、部署及优化实践，揭秘推理提效关键路径。

文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。

蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。

MetaGPT等机构团队发布CARE框架，可让LLM将推理上下文与自身检索能力结合，已全面开源。它提出原生检索增强推理范式，采用两阶段训练策略，在问答基准实验中表现出色，为解决模型问题提供新路径。

金融科技智能化转型中，LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架，能为多模态大模型压缩方案出具‘体检报告’，还揭示LVLM加速复杂性，推动技术发展。

苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM，代码仓库含 iOS/macOS 演示应用。它速度快，首个 token 输出速度较同类模型提升 85 倍，还兼容主流 LLM，适合边缘设备等场景。

空间推理是多模态大语言模型（MLLMs）应用关键挑战，当前‘语言描述式调优’让模型成‘视觉文盲’。多校联合提出MILO范式，结合视觉生成反馈与语言调优，还构建GeoGen数据集，经五大任务验证其有效。

淘宝姜宇宁团队上线RecGPT百亿参数推荐大模型，对“猜你喜欢”功能技术升级。大模型赋予传统推荐系统新能力，如让其“白盒化”、理解长上下文等。姜宇宁认为AI要创造商业价值，落到业务场景形成正向循环。

Portkey AI Gateway是面向生产环境的开源AI Gateway，支持超1600款模型，通过1个API接口实现快速、可靠、安全的模型路由。它能解决产品开发和使用中的痛点，有统一API接口等核心功能。

一条10分钟一镜到底的Demo视频引发关注，视频中宇树和智元的机器人同用一个“大脑”，完成多种任务，如擦窗、收纳等，还展现出跨本体协作等能力。该模型跳出主流具身模型固有框架，或改写具身智能行业认知。