多GPU性能」共找到 5714 篇相关文章

算法论文8

国科大 | 提出进化算法:EvolKV,自适应分配KV Cache,预算降至1.5%!

键值缓存(KV cache)是大模型快速运行核心技术,但输入文本越长,存储和处理问题越突出。国科大提出进化算法EvolKV,自适应分配KV Cache,实验显示其效果显著,预算可降至1.5%。

AINLPer
新闻资讯8

AICon 2025 深圳回顾:AI Agent 爆火全场,管理与推理优化成新焦点

2025年8月22 - 23日,AICon全球人工智能开发与应用大会在深圳落幕。70+嘉宾、800+开发者与企业代表参会,议题覆盖AI Agent、推理优化等。AI Agent成全场焦点,企业管理议题意外走红,展示了AI深入各领域的趋势。

AI前线
新闻资讯7

首钢园“Link Point 融资时刻” | AI+医疗专场路演圆满收官

8月27日,首钢园“Link Point 融资时刻”首期AI+医疗专场路演在企服驿站举办,众投资机构和企业代表参与。活动采用种形式,家企业展示成果。该活动推动AI与医疗融合,赋能行业升级,完善区域生态。

首钢园
产品应用8

百度文库网盘发布 GenFlow2.0,支持同时调用超 100 个专家智能体

8月18日,百度文库联合百度网盘发布全球首个全端通用智能体「GenFlow2.0」。它支持超100个专家智能体并行工作,解决描述难、等待久等问题,还打通百度生态资源,兼容MCP协议,接入荣耀智能助理。

InfoQ
开源动态7

记录下SGLang 开发,编译和Profile的几个小技巧

作者记录在SGLang开源一年学到的开发和Profile技巧。包括解决perfetto可视化PyTorch Profiler结果时kernel丢失问题、PR切换分支方法,还介绍让SGLang无视版本运行以定位bug的方法。

GiantPandaLLM
产品应用8

3.8K星爆款!Google「langextract」可视化溯源,信息抽取神器

Google的「langextract」在GitHub获3.8K星,是信息抽取神器。它有精准源定位、可靠结构化输出等特点,支持种LLM,适用于各领域,文章还给出实战代码示例。

CourseAI
产品应用8

马斯克挖不动的清华学霸,一年造出 “反内卷 AI”!0.27B参数硬刚思维链模型,推理完爆o3-mini-high

新加坡Sapient Intelligence推出小参数AI模型HRM,能解决复杂推理难题。它受大脑启发,提出“隐性推理”路径,准确率碾压先进思维链模型,推理能力超越o3 - mini - high,经济性突出,任务效率可百倍提升。

AI前线
推荐文章7

推荐!5分钟上手Chrome MCP,替代5个付费AI

作者测试发现Chrome MCP能替代大部分付费AI工具,如Cubox、音频工具等。它能让Claude控制浏览器,操作简单,1小时可配置,还能年省2000元,提升效率。

AI 产品自由
新闻资讯7

首钢冰球馆迎来热血少年,robotex世界机器人大会京津冀选拔赛即将举办

7月27日,第25赛季robotex世界机器人大会京津冀选拔赛北京站将在首钢冰球馆启幕。robotex赛历史悠久、影响大,2017年落地中国。首钢冰球馆是功能场馆,举办过众赛事和活动。

首钢园
开源动态8

找到啦,我们已上车,Github 27000+ star,研发团队必备开源工具项目,真丝滑!!!

Trivy是开源安全扫描工具,支持扫描容器镜像等目标,识别CVE漏洞等风险。它有6大突出功能,技术优势明显,还给出使用示例、应用场景,与传统工具对比优势显著,适用于全生命周期安全分析。

小华同学ai