包大小优化」共找到 1380 篇相关文章

开源动态8

HF日趋榜一!真端到端模型AutoDeco终结手动调参解码

大语言模型手动调参解码繁琐,腾讯AI Lab王琰团队联合港中大(深圳)唐晓莹教授团队推出AutoDeco架构,通过创新训练策略让模型动态预测解码参数,在多模型实验中表现出色且已开源。

机器之心
开源动态8

十年来Python生态最好工具,引爆全社区的uv到底是什么?

uv是用Rust写的Python和项目管理工具,被天文学家Emily L. Hunt博士赞为近十年Python生态最好的事。它功能强大,能替代多个工具,速度快,兼容性强,安装简单,还能轻松管理项目。

机器之心
算法论文8

稳定训练、数据高效,清华大学提出「流策略」强化学习新方法SAC Flow

本文介绍清华大学和CMU提出的SAC Flow新方案,可端到端优化流策略。它将流策略视作residual RNN,用GRU和Transformer结构稳定训练。在多环境测试中表现优,有稳定、快速、样本效率高的特点。

机器之心
算法论文8

用中等难度prompt做高效post training

近年来,RL后训练在LLM发展中至关重要,但传统方法效率低。本文提出PCL轻量级算法,通过动态选中等难度提示提升LLM后训练效率,经多基准实验验证其优越性,也指出方法局限与未来方向。

深度学习自然语言处理
算法论文7

翁荔陈丹琦加盟的840亿AI公司,公开第二篇论文

明星创业公司Thinking Machines公开第二篇研究论文,主题为“Modular Manifolds”,通过统一框架约束和优化网络不同层/模块,提升训练稳定性与效率。论文提出模块化流形思路,若应用于大模型,训练效率和稳定性将大幅提升。

量子位
新闻资讯8

Java 30周年献礼:新LTS版本Java 25,服务器内存砍掉22%,AI开发起飞

2025年9月16日,Oracle推出Java 25,这是继JDK 21后首个LTS版本,官方提供八年支持。它含18个JDK增强提案,目标是优化AI运行、安全防护等,在省内存、提速度、简语法等方面均有显著改进。

AIGC开放社区
推荐文章8

为什么Claude Code 如此好?「以及如何在自己工作流中复刻Claude Code体验」

本文分析Claude Code好用的原因及如何复刻其体验。作者抓分析其请求后给出要点,如可调试性优先、保持单一循环、LLM搜索优于RAG等,还阐述控制循环、提示词、工具等设计方法。

AI寒武纪
新闻资讯7

年仅24岁、博士退学、项目平平,却签下2.5亿美元天价Offer?Meta的这波操作,全网看懵了

在AI军备竞赛中,Meta为24岁AI研究员Matt Deitke开出2.5亿美元薪酬。他博士退学、创业不久,项目虽在热门赛道,但也有人质疑其成果与报价不匹配,这反映AI人才争夺激烈。

AI前线
算法论文8

追剧不断网,可能背后有个AI在加班,故障诊断准度破91.79%

中兴通讯和中国移动团队针对电信网络故障诊断难题,提出 TN - RCA530 基准和 Auto - RCA 框架。测试多个大模型,初始准确率低,经框架优化后,Gemini - 2.5 - Pro 准确率从 58.99% 升至 91.79%,超人工水平。

机器之心
产品应用7

LLM加速利器LMCache,极大降低GPU资源消耗

LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。

GitHubStore