协同解码策略」共找到 1346 篇相关文章

产品应用8

微信自研高性能推理计算引擎 XNet-DNN:跨平台 GPU 部署大语言模型及优化实践

本文深入解析微信自研的高性能推理计算引擎 XNet-DNN,介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力,在多方面超越现有解决方案,还给出了详实对比实验数据。

腾讯技术工程
算法论文7

Reasoning模型在RL下的探索欲望急速下降问题:探索熵机制

论文研究发现大模型经强化学习训练解题时,会出现模型探索欲望急速下降的熵崩溃现象,如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源,提出破解方法,研究对AI训练范式变革有重要意义。

深度学习自然语言处理
算法论文8

大模型推理也能“智能调度”:让奖励模型按需分配算力的动态路由机制 | ACL 2026

生成式奖励模型(GRM)推理策略存在算力浪费问题。腾讯混元与新南威尔士大学联合提出 E - GRM 框架,将模型不确定性定义为调度信号,按需推理。文章从多维度解读该框架,并展示实验评估结果。

InfoQ
开源动态7

DeepSeek推理再提速80%,V4正式版定档7月中旬

DeepSeek两天前开源DSpark推理加速框架,已在V4预览版在线服务跑真实流量,使生成速度提升60% - 85%。DSpark化解推测解码问题,在多模型超Eagle3和DFlash。V4正式版7月中旬上线,将引入峰谷定价。

AIGC开放社区
产品应用7

百度文库网盘,押注工作流里的超级智能|甲子光年

4月27日百度文库网盘在AI DAY发布通用智能体GenFlow4.0,展示融合OpenClaw新进展。它让AI介入办公软件,引入Agent参与团队协作,从单兵作战到全向协同,解决办公中间工作,靠数据、系统和用户验证构建系统工程。

甲子光年
推荐文章8

玩转智能体协议:谷歌开发指南教你拼出工业级AI应用

谷歌两篇开发指南拆解六大前沿开放协议核心代码,从开发者挑战赛提炼五条架构法则。介绍各协议用途,如MCP消除重复劳动,A2A规范智能体通信等,阐述协议协同运作及架构法则助力工业级智能体应用开发。

AIGC开放社区
新闻资讯8

Anthropic逼急谷歌!布林下场亲自督战,组「追杀队」围剿Claude

谷歌联合创始人布林亲自督战,组建攻坚队「追杀」Anthropic,欲夺回编程能力差距。Claude在编程领域锋芒正劲,谷歌AI编码占比仅50%,而Anthropic已达100%。攻坚队聚焦长期写代码任务,策略转向优先训练内部代码模型。

新智元
产品应用8

不拼GPU!中兴扔出AI超节点,把token价格打下来

在万亿级大模型时代,传统‘芯片堆砌’方式面临通信开销剧增等痛点。中兴通讯推出超节点技术,从系统级协同架构出发,通过六大维度创新,绕开单GPU芯片瓶颈,重构AI算力基础设施,推动行业向开放、融合发展。

新智元
新闻资讯7

速戳!2026中国科幻大会北京未来数字空间创新试验区产业引领论坛亮点抢先看

2026第十届中国科幻大会将在北京首钢园召开,“北京未来数字空间创新试验区产业引领论坛”3月29日亮相。论坛有四大亮点,包括“街区式”创新平台亮相、“三重智能”协同勾勒技术路线等,还汇聚多方资源构建产业创新生态。

首钢园
新闻资讯7

5Y News|GIM 完成数千万元天使轮融资

日前,GIM宣布完成数千万元天使轮融资,由五源资本与Monolith投资。资金用于自研金融大模型迭代等。其定位自进化智能体投资平台,已推自研金融时序大模型,未来将推基金策略与产品。

五源资本 5Y Capital