低token高压缩」共找到 1726 篇相关文章

开源动态8

SGLang Team:在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek

本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性,SGLang 实现高吞吐量,成本。博客探讨并行设计、优化方法,所有组件开源,也指出了当前局限与未来方向。

GiantPandaLLM
开源动态8

这个开源项目 OpenStory,把 AI 短剧制作变成了一条可复制的工业流水线!

现在制作完整AI短剧流程繁琐,很多团队是小作坊式生产,效率且难规模化。OpenStory开源项目站在成熟AI服务肩上,将AI短剧制作工业化,能把剧本变成风格统一的视频作品,解决诸多痛点。

开源星探
新闻资讯7

DeepSeek,Qwen,Grok组团发布,社区一手实测

LLM大爆发,一天内推出Grok 4.6、Qwen3.8 - Max、DeepSeek - V4 - Pro - 0813三款前沿产品。社区对它们进行多场景测试,如3D场景、Flappy游戏、飞机滑行动画等,并对比了不同模型的性能、价格和输出质量。

PaperAgent
开源动态8

小扎万字檄文炮轰硅谷,Meta重磅开源30B小钢炮!一台MacBook就能跑

Meta发布全新30B大模型Muse Glimmer并开源,用4-bit量化等技术让其能在本地设备运行,有五大核心超能力且采用Apache 2.0协议。同时,Meta CEO小扎发表万字檄文暗讽OpenAI等,抨击AI末日论等观点。

新智元
算法论文8

夜间感知新突破!北航等提出红外主导的高效目标检测方案 | ECCV'26

在复杂视觉场景中,传统RGB - IR多模态检测方法在照度等场景下因RGB退化影响检测效果。北航等团队提出的InfraNet,以红外为主,用质量感知机制控制RGB引导,在多数据集取得强竞争力结果。

新智元
新闻资讯7

GPT-5.6 Sol首批内测结果来了!同任务成本只有Fable 5一半

GPT-5.6 Sol预览版发布半月,首批内测报告出炉。它代码简洁,适合长链路任务,视觉效果好。虽整体略逊Fable 5,但成本近乎减半,且安全限制小,即将全量上线。

量子位
产品应用8

离谱!一句话+百元预算,这只龙虾就给我搓出了一支百万级广告片?

广告片创作成本高、耗时长,生数科技的Vidu Claw能一句话完成创意到成片全流程,同步发布的Video Plan将成本可控化。实测它能胜任多种广告场景,还把工期从N天压缩到1天。

量子位
新闻资讯7

ChatGPT正式上线广告主平台,AI产品从今天开始走向分裂。

今日凌晨,OpenAI更新ChatGPT,上线非推理模型GPT - 5.5 Instant,还官宣向企业主全量上线广告平台。此前广告已在部分地区测试,付费和未成年用户无广告,免费用户可选择关闭但功能受限。投放端向美企开放,出价高,这或成AI产品宿命。

数字生命卡兹克
新闻资讯8

全球顶尖大模型一夜惨遭血洗!最难测试人类拿满分,AI第一名得0.2%分

全球最难AGI测试ARC - AGI - 3上线,人类满分通关,最强模型Opus 4.6仅得0.2%。测试从静态题变为互动游戏,评分看效率。前沿大模型得分,非LLM方案表现更好,AI缺乏元认知能力。

新智元
产品应用7

“聊天干活”只需扫个码:微信配WorkBuddy,自家出品就是快

微信推出 ClawBot 插件,与腾讯自研 WorkBuddy 适配,接入门槛。它像统一“任务入口”,可让用户在微信下达任务。适用于媒体记者信息预处理、深度研究、灵感沉淀等场景,使微信从“信息容器”变“任务容器”。

InfoQ