「零Token部署」共找到 1617 篇相关文章
5 分钟上手「AI 版 Chrome」,小红书发帖全程零人工,反检测封神
自从Manus产品发布,Agent赛道火热,不少大厂和创业者涌入。如今有浏览器Agent开源方案opendia,它有智能页面理解等AI能力,能用于社交媒体互动等多方面。
三个月、零基础手搓一块TPU,能推理能训练,还是开源的
加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身,从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法,及推理、训练的实现。
北大提出首个复数大模型,2比特量化,推理仅加法,可手机部署!
北大团队提出iFairy方案,将模型权重量化到复数集合,用2比特表示,压缩至原本1/8。推理仅需加减或交换数据位置,成本更低。Transformer架构“复数化”,iFairy模型PPL降10%,性能反超全精度,相关成果已开源。
并行革命,32倍吞吐量跃升!英伟达Helix架构突破百万Token推理瓶颈
英伟达推出受DNA结构启发的Helix并行技术,能解决大模型处理长任务时的卡顿问题,提升上下文长度、并发能力并降低响应延迟。不过也有人认为其技术与实用性有差距。
性能提升 10 倍,零改造实现 DIFY 模式迁移至 Spring AI Alibaba 模式
文章深度讲解如何将 Dify 平台开发的应用导出为 Spring AI Alibaba 工程。先介绍两者特点,后通过示例展示转换过程,还阐述迁移收益,如扩展灵活、性能提升 10 倍,最后提及 Spring AI 后续计划。
告别依赖地狱!新型Python打包神器,支持三种打包模式,跨平台,零配置!
分发Python应用时,环境配置和依赖管理让人头疼。刚开源的Python打包工具PyFuze功能全面,基于cosmopolitan和uv构建,有三种打包模式,兼容GUI应用,跨平台运行,还能一键将项目打包为单个可执行文件。
新手必备!Cursor 1.0 完全上手指南:从零开始用 AI 玩MCP
本文是Cursor 1.0的上手指南,涵盖下载安装、核心功能、中文环境设置、工作方式、MCP基础设置、AI使用方法及使用渠道等内容,助新手用AI玩MCP。
阿里QwenLong-32B:1W+超长Token推理,知识密集型复杂文档高效推理
文章介绍阿里QwenLong - 32B在长文本推理的能力。长文本推理有训练效率低和优化不稳定问题,QWENLONG - L1通过强化学习等解决,还阐述其组件、训练步骤,并给出实战代码及相关链接。
个人开发者训400亿参数大模型:分布式算力,DeepSeek架构,3090单卡部署
Nous Research推出Psyche Network,可整合全球算力训练AI。它基于Deepseek的V3 MLA架构,有DisTrO优化器等技术,能让个人和小团体创建大规模模型,还实现40B参数LLM预训练。
从亚百毫秒级启动到生产级部署,腾讯云为何重构 Agent 沙箱?
2026 年初,OpenClaw 掀起本地终端 Agent 热潮,但也带来安全风险,让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox,InfoQ 采访金峰,了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。