「资源优化」共找到 1564 篇相关文章
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
40年首次突破！清华大学发布全新最短路径算法，打破理论瓶颈:数据中心有望节省大量计算资源
清华大学Ran Duan、Longhui Yin团队发表论文，提出确定性新算法，在稀疏图上表现超经典Dijkstra算法。新算法时间复杂度为`O(m log²/³ n)`，不维护全局有序顶点队列，应用前景广，可节省计算资源。
AI4S设计的新抗生素通过湿实验！双层思考+多目标优化，主动发现「代谢不稳」并加约束
SAGA是新AI，采用双层思考机制，能主动审视需求、优化目标函数。在抗生素、纳米抗体等5大领域湿实验中表现出色，结果获科学家肯定，相关代码已开源。
OpenAI自研芯片内幕曝光！18个月前开始用AI优化芯片设计，比人类工程师更快
OpenAI与博通官宣合作，将共同部署10GW规模AI加速器。双方头头齐聚爆料合作契机与细节，OpenAI总裁称已用AI优化芯片设计，比人类工程师更快，且合作已持续约18个月。
揭秘LLM“思考”之谜：推理即“梯度下降”，元学习框架解构训练过程，还给优化提供新思路
上海AI Lab团队提出RaML框架，从梯度下降和元学习角度揭示LLM“思考”机制。通过实证验证推理轨迹作为参数更新的合理性，还对比不同训练策略，指出RaML为优化LLM性能提供新思路。
CNSNS｜西工大曹文博、张伟伟：克服优化求解器中的损失条件数瓶颈：一种良性损失函数
基于优化的偏微分方程求解方法受关注，但实际慢于经典迭代求解器。本文从条件数角度审视效率瓶颈，指出标准MSE损失导致条件数平方放大、减缓收敛。提出稳定梯度残差损失SGR，在收敛速度与稳定性间建立平衡，实验验证其有效性。
小红书hi lab首次开源文本大模型，训练资源不到Qwen2.5 72B 的四分之一
6月6日，小红书hi lab团队首次开源文本大模型dots.llm1，采用MIT许可证。该模型激活参数量140亿，总参数量1420亿，上下文长度32K。训练资源不到Qwen2.5 72B的四分之一，在多个测评中表现出色。
北大 & 作业帮团队提出 Text-to-SQL 新框架 Interactive-T2S，攻克宽表处理与低资源对齐难题
北大与作业帮联合研发的论文提出 Interactive-T2S 框架，将 LLM 塑造成智能代理，通过多轮交互解决传统 Text-to-SQL 方法在宽表处理、低资源对齐等方面的难题，已入选国际顶会 CIKM2025。
微信自研高性能推理计算引擎 XNet-DNN：跨平台 GPU 部署大语言模型及优化实践
本文深入解析微信自研的高性能推理计算引擎 XNet-DNN，介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力，在多方面超越现有解决方案，还给出了详实对比实验数据。
一次汇报，资源投入暴涨数十倍：快手大模型推荐以 1/12 成本突围，技术负责人亲历的革新故事
InfoQ 专访快手科技副总裁周国睿，他分享了快手大模型推荐技术投入挑战、决策过程等。如汇报后资源投入涨数十倍，以 1/12 成本突围。还阐述推荐系统变革、技术押注及未来推荐系统突破点等观点。