高推理密度」共找到 3638 篇相关文章

产品应用7

本地可运行的质量的文本转语音模型

介绍Kyutai的Pocket TTS,一款轻量级文本转语音应用,可在CPU效运行,模型小且低延迟,支持Python API和CLI,能语音克隆,还可在浏览器试用,目前仅支持英语,也有社区浏览器端实现。

GitHubStore
开源动态8

DeepSeek又拿第一!首创「因果流」视觉推理,超越Gemini

DeepSeek开源DeepSeek - OCR2,引入DeepEncoder V2视觉编码器,打破传统模型扫描限制,模仿人类视觉「因果流」逻辑。它解决了传统VLM忽略图像语义结构问题,在多项测试中表现出色,还验证了「LLM作为视觉编码器」可行性。

新智元
技术实践8

RTP-LLM 在相关性大模型中的推理优化最佳实践

淘宝搜索场景引入大参数LLM模型,面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践,如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等,还提及未来优化方向。

阿里云开发者
推荐文章7

极速开发出一个质量 Claude Agent Skills 最佳实践

作者实践开发Claude Agent Skills积累经验分享。先介绍Skill概念,对比与MCP区别;再讲最佳开发实践,如借助AI、利用官方案例等;还给出Claude Skill自身设计、规范等方面的最佳实践及避坑指南。

阿里云开发者
算法论文7

谈一谈TP推理场景下MoE Group GEMM的优化思路

作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

GiantPandaLLM
产品应用8

文心新出的推理大模型,给了我们信心

在 WAVE SUMMIT 2025 大会上,百度发布文心大模型 X1.1,是 X1 升级版,发布即上线可免费体验。它在事实性、指令遵循、智能体等能力显著提升,全方位测评表现出色,还开源新模型,展现百度全栈 AI 实力。

机器之心
推荐文章7

下一代数据中心和性能计算OIO光互连技术方案!

文章深度解析OIO芯片级光互连技术、挑战与未来。传统电I/O技术有性能受限等问题,OIO能解决大容量芯片I/O扇出难题,是光电融合终极形态。它虽面临量产挑战,但前景好,全球产业力量已集结。

芯师爷
算法论文7

无需外部数据!AI自问自答实现推理能力进化

卡内基梅隆大学团队提出SQLM框架,这是无需外部数据的自我提问模型,含提问者和解答者角色。通过强化学习最大化期望奖励,设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。

量子位
产品应用7

端午出游定:通义灵码+德 MCP 10 分钟定制出游攻略

文章介绍端午用通义灵码+德MCP 2.0定制北京3天旅行攻略,包括利用已有MCP服务定制攻略的步骤,还讲述打造专属MCP服务的方法,最后给出自由探索方向。

阿里云开发者
推荐文章7

两篇一样的公众号文章,为啥流量都这么

白杨SEO针对公众号两篇相同文章流量的现象,解答了相关疑问,指出公众号流量本质是打开率,打开率取决于选题和标题。还介绍了推荐流量和搜索流量的逻辑及做法。

白杨SEO优化教程