多GPU性能」共找到 5701 篇相关文章

开源动态8

全网开测GPT-oss!技术架构也扒明白了

全网开测GPT-oss,它登顶开源模型王座,性能比肩o3-mini、o4-mini,适合本地推理。网友探索出种用法,还推出Pro版。其架构也被扒出,官方介绍了微调方法,吴恩达等大佬也参与测评。

量子位
算法论文8

五倍推理加速,激发自回归潜能,苹果新工作让LLM预测未来

近年来自回归训练方法成语言模型主流范式,但推理阶段计算开销大。苹果研究人员开发框架,让预训练自回归大模型 token 预测,代码和数学任务推理加速达 5.35 倍,一般任务约 2.5 倍。

机器之心
产品应用8

录音笔的终结者,还是AI时代的又一个“美丽废物”?深度体验出门问问TicNote

作者体验出门问问AI硬件产品TicNote一个月,称其超薄超轻,有双模式录音功能,解决手机录音痛点。软件强大,支持语种和方言,能自动总结,还可拓展内容。价格有两档,适合类人群。

歸藏的AI工具箱
算法论文8

Cache Me If You Can:陈丹琦团队如何「抓住」关键缓存,解放LLM内存?

普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长,此前方法难公平比较。团队提出「KV 足迹」指标,改进方法并推出 PruLong 优化内存,节省空间且保性能

机器之心
开源动态8

错过它=落伍!只用一张照片+14秒,腾讯开源 HunyuanVideo-Avatar 带你玩转角色数字人

HunyuanVideo-Avatar 是腾讯混元团队最新开放的模态数字人生成模型。上传一张人物图片,再配上一段音频,模型即可在约 14 秒内输出分辨率最高 720p、情绪可控、动作丰富且支持角色同屏的短视频。

小华同学ai
开源动态7

终于突破限制啦,11.2k Star LiveContainer,抓紧试一下!!!!

LiveContainer官方定义是app launcher,能将个IPA以访客App形式放进运行环境加载,可在现有iOS规则里降低测试摩擦,获11.2k Star。但它并非虚拟机或强隔离沙箱,使用有诸限制。

小华同学ai
开源动态7

DeepSeek 把 Harness 开源了:模型、工具、Agent Loop 全是插件

8月13日,DeepSeek面向全球开发者开放DeepSeek Harness开发者预览版v0.1并开源代码。其特色是一切皆插件,提供四种运行模式,内置Agent系统,有创新但编排范式未突破,还采用仅追加的会话日志。

InfoQ
算法论文8

首个时空时序推理框架:让大模型真正读懂时空数据 | ACL'26

STReasoner是首个结合时间序列、空间结构和自然语言的推理模型,能识别异常源、追踪影响路径。研究团队构建数据生成框架和评测基准,采用三阶段训练策略,模型在任务表现优,成本低且泛化能力强。

新智元
新闻资讯8

Altman 亲自坐镇发布 ChatGPT Image 2,小编实测:风格、画质、叙事感全都夯爆了

OpenAI CEO Sam Altman 亲自发布 ChatGPT Images 2.0,这是该公司迄今功能最强的图像生成模型。它有思考能力,可直出 8 张连贯图片,支持语言、种画幅与分辨率,能精准执行复杂指令,直接商用也没问题。

InfoQ
产品应用8

360 如何用 AutoMQ 解决千亿级 Kafka 冷读难题

360 集团作为互联网安全公司,业务数据规模膨胀,Kafka 集群运维难题凸显。AutoMQ 存算分离等特性适配 360 需求,360 验证其性能后用于日志检索平台,解决冷读难题,未来将推广到更业务线。

InfoQ