「零Token部署」共找到 1617 篇相关文章
Token售卖已无溢价、大模型公司转型“系统商”?记忆张量 CTO 李志宇:智能体能力会拉开差距,长期记忆与状态管理成竞争核心
InfoQ 采访记忆张量 CTO 李志宇,他指出 Scaling up 经济效益下降,大模型公司正变系统公司,核心是长期记忆与状态管理能力。2026 年若模型无代际差,价格战或加剧。智能体是主赛道,但现有模型推理能力不足。
每个token都在亏钱,但ARR9个月破亿!从烧光现金、裁掉一半员工到反杀Cursor,Replit CEO曝一年内如何极限翻盘
2024年初到2025年9个月内,Replit的ARR从不到1000万美元突破1亿美元。其增长基于系统性战略,从基础设施整合发力。创始人分享发展历程,还谈到AI编程趋势及产品边界等内容。
14小时近500 Star!快速进阶LLM/AI的必读系列
文章推荐快速进阶LLM/AI必读系列,涵盖Tokenization、Vectorization等多方面,列举大量论文及资料链接,如BERT、TensorFlow等相关资料,助力读者学习。
这个周末,很多人都在等一个额度重置,以及对 Work 模式的吐槽
ChatGPT Work 模式上线后,Token 消耗快,用户等额度重置。该模式与 Codex 易混淆,前者处理通用知识类长任务,后者面向软件开发。国内外产品纷纷推 Work 模式,未来或融合。
AI 万能插座(网关)
AxonHub 是 All - in - one AI 开发平台,有统一 API 网关等功能。具备统一 API、追踪等核心特性,支持多种 API 类型和格式,介绍了不同部署与使用方法。
2.6K Star!GitHub 上这个开源桌宠,用一只小螃蟹就能监控你的 AI 编程助手!
介绍开源桌宠 Clawd,它是为 AI 编程助手设计的实时状态监控器,有 12 种萌趣动画状态,支持 10+ 主流工具,具备权限审批等实用功能,零配置开箱即用。
AI开始接管实验室了!玻尔·跃迁实验室:试剂、设备、数据一个入口搞定,1800+设备即插即用
深势科技推出玻尔·跃迁实验室,解决传统实验室设备割裂、经验依赖、数据离散、部署低效等痛点,围绕计算 - 实验 - 数据 - 计算无缝闭环底层重构,与传统 ELN/LIMS 不同。
无痛使用vLLM的工具来了!
vLLM功能强大但上手门槛高,开源项目vLLM Playground是界面化工具,能解决使用难题。它零配置,集成官方vLLM recipes,内置性能测试,安装简单,对业务团队很友好。
功能全面的Agent!吸取了open-manus,langmanus众家之长
Cooragent是在langmanus基础上重大改进的Agent框架。文章介绍其本地部署、CLI工具使用、添加MCP服务等实战操作,还提及深度兼容Langchain工具链、支持MCP等特点,有两种工作模式。
CNCF 警告:仅靠 Kubernetes 不足以保障 LLM 工作负载的安全性
云原生计算基金会(CNCF)指出,企业在 Kubernetes 上部署大语言模型(LLM)存在安全缺口。Kubernetes 无法理解或控制 AI 系统行为,需增加额外控制层,引入 AI 特定控制。