「大模型优化」共找到 10066 篇相关文章

产品应用7

LLM加速利器LMCache,极大降低GPU资源消耗

LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。

GitHubStore
新闻资讯7

真热AI!米哈游5亿成立新公司

米哈游全资成立上海米哈游无定谷科技有限公司,注册资本5亿,经营范围涉及人工智能等领域。米哈游在AI领域布局已久,有自研大模型,创始人蔡浩宇也有相关创业动作,旗下游戏还与马斯克的AI女友互动。

量子位
新闻资讯8

走访100+机器人展台:拐点已至,具身智能进入千行百业|WAIC 2026

7月17日,2026世界人工智能大会在上海开幕。与往届不同,今年大会更多展示具身智能在真实场景的应用。硬件迭代、软件与数据突破,让泛化能力和任务执行成功率显著加强。现场还呈现模型四条技术路线、数据基建等趋势。

AI科技评论
产品应用8

中国团队一夜封神,AI出海「全球第一」!曾靠游戏狂赚10亿美金

在大模型竞争激烈的当下,中国出海团队SeaArt(海艺)用2.5年超越Midjourney等,成全球访问量第一的AI内容创作社区。它打造AI原生内容生态,SeaVerse开启全模态时代,还靠洞察用户、游戏基因等优势制胜。

新智元
产品应用8

Tabbit浏览器实测:AI终于学会帮我上网干活了

本文实测Tabbit浏览器,它刚正式发布且免费。与Arc、Atlas不同,Tabbit切换成本几乎为零,有智能标签整理、妙招功能、Agent智能代理等,还内置多个国内外大模型,但脚本妙招和智能标签整理有改进空间。

花叔
推荐文章7

18个月月收33万刀!起底“AI套壳”生意经:是昙花一现还是隐形金矿?

文章探讨AI套壳生意,指出开发者调用现成API做应用,这类应用有昙花一现的,也有长成产品的。套壳应用面临模型访问权和分发渠道两大挑战,但利基市场有机会,成功产品需有结果主导权和专有数据。

AI科技大本营
算法论文7

EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法:LightThinker

随着AI发展,大语言模型处理复杂推理任务能力提升,但推理时产生大量中间步骤和文本,拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker,可动态压缩推理步骤,降低内存占用和计算成本。

AINLPer
开源动态8

PaddleOCR3.0全面开源!文档解析PP-StructureV3:PDF秒变高质量结构化文件!

在大模型与RAG技术发展下,结构化数据愈发重要。飞桨团队打造PP - StructureV3并随PaddleOCR3.0全面开源,它能将文档精准转为结构化文件,有精度高、能力多等优势,还介绍了使用方式。

开源星探
产品应用8

阿里Qwen 3.7 Max:35小时自主编程,Claude跟不上了?

阿里云峰会发布的Qwen 3.7 Max,在优化平头哥芯片推理内核任务中,35小时让推理速度快10倍。它在多基准表现出色,编程、推理、办公自动化全面开花,但闭源且实验室场景与现实有差距。

CourseAI
算法论文8

全球首次,Transformer「混血」速度狂飙65倍!英伟达已下注

康奈尔、CMU等机构研究者提出「混合体」Eso - LM,融合自回归和离散扩散模型范式。它引入KV缓存机制,推理速度相比标准MDM提升65倍,在速度与质量平衡上超越BD3 - LM,引发AI领域关注,英伟达或押注此方向。

新智元