系统级优化」共找到 3463 篇相关文章

开源动态7

LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析

文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理,通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程,以及优化策略和配置启用方式。

GiantPandaLLM
8

小米双模型正式开源!MiMo-V2.5-Pro无中断肝出“macOS”:54个应用全开、浏览器真能冲浪

小米MiMo-V2.5系列模型正式开源,权重全量开放。该系列含四大模型,综合实力对标国际顶尖水准。MiMo-V2.5 Pro能力出色,如4小时无中断完成“macOS”系统,且Token效率高省成本。小米还推出开发者扶持计划。

量子位
新闻资讯8

两个哈佛女生用AI做电池故障排查,数月的工作量被缩到了几分钟

哈佛毕业女生 Eva Tuecke 和 Catherine Yeo 创立 Altara 公司,获 700 万美元种子轮融资。其系统能整合电池等物理科学领域分散数据,将故障排查时间从数月缩至几分钟,还能确保输出可审查,适应不同机构需求。

DeepTech深科技
新闻资讯8

爆发力超越波士顿动力液压机器人,PHYBOT M1实现全球首次全尺寸重型电驱人形机器人完美拟人态后空翻

动易科技的全尺寸人形机器人PHYBOT M1实现全球首次全尺寸重型电驱机器人完美拟人态后空翻,其爆发力超波士顿动力Atlas。这是对其动态性能的压力测试,电驱系统也在多方面超越液压方案。

量子位
产品应用7

这种眼镜我建议外卖快递小哥人手一个

亚马逊为快递小哥配备智能眼镜“Amelia”,早期版本正实测。它基于先进技术,能扫描包裹、导航等,明年中期量产。亚马逊还或推消费眼镜“Jayhawk”,与Meta竞争。今年AI眼镜赛道热闹,国内外大厂纷纷入局。

量子位
产品应用8

Claude Code 推出插件功能

Anthropic宣布Claude Code支持插件系统,开发者用一条命令就能安装定制化工具集合。插件把斜杠命令等打包,可按需开关。使用简单,已有多种插件,还能自行创建和托管,插件功能或成其生态重要进化。

AGI Hunt
新闻资讯7

他,37岁华裔,靠AI成为福布斯400最年轻亿万富翁,身价180亿美金!

37岁华裔Edwin Chen成《福布斯400》最年轻亿万富翁,身价180亿美元。他拒绝VC融资,用积蓄打造估值300亿美元的AI数据标注公司Surge,希望让AI学会「人类的复杂性」,还担忧AI模型被错误优化

新智元
算法论文8

调整训练数据出场顺序,大模型就能变聪明!无需扩大模型/数据规模

微软亚洲研究院提出全新文本数据组织范式DELT,通过引入数据排序策略,充分挖掘训练数据潜力,优化训练数据的组织方式,在不同模型尺寸与规模下都达到了良好性能,且不用增加数据量或扩大模型规模。

量子位
算法论文8

Cache Me If You Can:陈丹琦团队如何「抓住」关键缓存,解放LLM内存?

普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长,此前方法难公平比较。团队提出「KV 足迹」指标,改进方法并推出 PruLong 优化内存,节省空间且保性能。

机器之心
产品应用7

1篇长文 = N张小红书爆款图?!Gemini 2.5 Pro 这效率,我跪了!

作者作为小红书小号主,苦于长文转图难,用Gemini 2.5 Pro Preview 05 - 06实现了一键转换。文章分享提示词结构、使用方法、修改方式,还介绍用AI调风格,指出系统有生成不稳定和下载问题。

AI产品黄叔