「低token高压缩」共找到 1724 篇相关文章
83岁用DeepSeek抢单,96岁凭AI挣养老钱!这群80+老人比你还会玩AI
文章讲述美国不少八九十岁老人积极学习AI,如Luis Bautista创办科技公司,Katherine Cavanaugh用AI接单。不过也有老人反对,担心其带来脑力退化等问题。研究称年长员工受AI影响或更大,还面临职业偏见。
黄仁勋预言成真!AI智能体成GitHub主力,一天顶人类一年
加拿大女王大学研究揭示AI编程智能体大规模渗透开源社区,它们活跃于开源一线,效率高但代码接受率低于人类,研究为其时代勾勒发展方向,软件工程行业面临变革。
字节硬核开源ComfyUI批量处理插件,ComfyUI调参效率暴增10倍!
在ComfyUI的AI创作中,手动调参效率低。近期字节跳动开源ComfyUI Lumi Batcher插件,支持全参数交叉调试等,可让调参像Excel一样简单,极大提升ComfyUI工作流效率。
无需训练,即插即用,2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中,扩散模型成主流,但DiT模型注意力机制计算量大,成推理瓶颈。现有加速法效果不佳,为此美国东北大学等团队提出DraftAttention,可2倍加速推理且不损画质。
图解Vllm V1系列6:KVCacheManager与PrefixCaching
文章聚焦vllm v1,阐述调度器取请求时判断设备有无充足空间做推理的问题,涉及KVCacheManager与Prefix Caching。前者管理请求和块,后者通过找最长一致前缀节省显存,还介绍块分配释放策略与流程。
谷歌神秘模型Kingfall泄漏!
近日,谷歌AI模型Kingfall在AI Studio平台短暂开放后意外曝光。它具备多模态处理能力,上下文窗口6.5万个token,有两种模式。生成SVG矢量图能力超Claude 4,身份猜测不断。
王兴兴回应比赛风波:挣到钱了,但现在的机器人别指望它能干活
2025北京智源大会上,宇树科技王兴兴、北京人形机器人创新中心熊友军等围绕具身智能探讨。提到机器人赛事能展示成果、促进行业发展;对机器人构型看法不一;还探讨了VLA泛化性等问题。
The Batch:829 | DeepSeek 是怎么做到的
DeepSeek 去年末以低成本训练出先进开源大模型引关注,近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案,降低内存和计算需求,其细节公布让更多团队有机会参与前沿研发。
推理“刹不住车”?新框架让DeepSeek-R1们告别过度思考,已开源
DeepSeek - R1等推理模型能力增强,但出现过度思考问题,如步骤繁冗、表述拖沓、输出冗长。浙大等团队提出Self - Braking Tuning(SBT)框架,能让模型适时终止推理,在多数据集测试中效果显著。
印度国家级大模型上线两天仅 300 余次下载,投资人直呼“尴尬”:韩国大学生模型都有20万!
印度 Sarvam AI 发布国家级模型 Sarvam - M,虽被赞为本土 AI 研究突破,支持 10 种印度本地语言,但上线两天仅 334 次下载,投资人批评其成果‘令人尴尬’,引发社区激烈争论。