「开源中转服务」共找到 3517 篇相关文章
在 Cache-DiT 框架下实现原生 Serving功能
Cache-DiT 是唯品会开源的 PyTorch 原生 DiT 推理加速引擎，此前聚焦离线推理。现实现完整 Serving 功能，支持单卡与分布式推理模式。文章介绍其实现过程、借鉴 SGLang 的设计，还总结踩坑及使用方法。
AI Agent 落地之困：为什么“人”与“流程”是最大障碍？
本文解读 MMC 报告，揭示 AI Agent 落地面临核心挑战、衡量标准、付费模式及落地策略。指出最大障碍是‘人’与‘流程’问题，如工作流集成、员工抵触、数据隐私等，还提及企业付费情况和成功落地秘籍。
Kimi K2 Thinking，最强思考模型，附实测
Moonshot AI发布Kimi K2 Thinking模型，它能边思考边行动，是目前最强开源思考模型，多项指标超GPT - 5等闭源巨头。其具独特架构，有性能优势，还给出部署方式，实测表现佳。
OpenAI合纵亚马逊，微软连横Anthropic，硅谷只有利益没有盟友
OpenAI与亚马逊达成380亿美元云计算合作，亚马逊股价飙升，微软股价下挫。此前OpenAI宣布投资1.4万亿美元建算力设施，还与甲骨文等有合作。亚马逊曾注资Anthropic，微软也集成Claude，各方利益交织。
8.9K Star！号称 Notebook LM 开源平替，支持 16+AI 模型，一键部署！
Google Notebook LM 虽方便，但有数据泄露风险且被平台绑定。开源工具 `open-notebook` 是其平替，支持 16 + 家 AI 模型提供商，可处理多模态内容，能本地部署保障数据安全，还具备多种实用功能。
只要强化学习1/10成本！翁荔的Thinking Machines盯上了Qwen的黑科技
新智元报道，翁荔的Thinking Machines研究同策略蒸馏策略，能以1/10强化学习成本，结合同策略训练优势与密集奖励信号。该策略受DAGGER启发，扩展Qwen3团队工作，可在Tinker复现，还能用于个性化和持续学习。
文本已死，视觉当立！Karpathy狂赞DeepSeek新模型，终结分词器时代
DeepSeek新成果DeepSeek - OCR以像素处理文本，压缩率小于1/10，基准测试领跑，开源一夜获4.4k星。Karpathy力挺，认为应赶走分词器，展望视觉成通用输入前景，马斯克有更科幻猜想。
Thinking Machines 发布 Tinker API，实现灵活的模型微调
Thinking Machines公司发布Tinker API用于开放权重语言模型微调，可减少开发者基础设施开销。支持多种模型架构，集成LoRA，还发布开源存储库。虽有竞品，但Tinker侧重暴露低级原语，尚处封闭测试。
OpenAI奥特曼认错：我天生不适合管理公司
OpenAI CEO奥特曼在a16z采访中回应热点问题，阐述三大核心战略，谈及Sora 2等热点话题，还称自己不适合管理公司。他提到目标、对垂直整合看法、Sora与AGI关系等内容。
云栖大会演讲实录：Qoder 产品背后的思考与未来发展
这是云栖大会上关于 Qoder 产品的演讲实录。Qoder 是阿里推出的 Agentic 编程平台，上线一月收获数十万用户。介绍了 AI Coding 三阶段，阐述 Qoder 定位、功能模式、技术优势，展望 AI Coding 未来。