搜索：集群性能优化

「集群性能优化」共找到 2912 篇相关文章

无需SFT也不用RL，样本级推理优化神器SLOT来了，准确率轻松+10%

西湖大学MAPLE实验室开发的SLOT方法，无需SFT和RL，让模型推理时“临时学习”具体问题。它简单易实现，计算开销小，能使模型准确率大幅提升，还无需额外资源，在各规模模型上效果显著。

生成式推荐依赖语义ID，可现有语义ID常先学好再冻结，与推荐目标不一致。论文DIGER首次将可微分语义索引机制引入生成式推荐框架，让推荐损失参与语义ID学习，还设计策略解决训练问题，实验表现佳。

硅谷Taalas将大模型‘物理焊死’进芯片引关注，而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构，将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。

MemGovern团队联合多高校团队提出MemGovern框架，将杂乱GitHub数据转化为AI可用的结构化记忆。它构建筛选净化流水线，采用先搜后看模式，实验显示能显著提升代码智能体的bug修复率，还具跨领域推广价值。

硅谷大佬热衷预言AI接管公司，皮查伊称CEO工作AI易胜任，奥特曼想让OpenAI由AI掌管。但当下技术连自动售货机都难经营好，科技巨头豪掷3万亿，纳德拉却认为AI难掌管公司。

近年来，大语言模型在复杂推理任务中面临挑战，强化学习虽更接近人类推理过程，但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源，还能增强模型探索能力，QeRL框架实现训练速度提升、内存占用减半。

数据集蒸馏能让模型高效节能，WMDD和GUARD两项研究分别解决保留原始数据特性、提升模型对抗扰动能力问题。WMDD用Wasserstein度量保留几何特性，GUARD平滑损失景观获对抗鲁棒性。

通义实验室开源 Mobile-Agent-v3，覆盖多平台，7B 超同类开源，32B 挑战闭源强手。它有基于云环境的全链路开源方案、全栈 GUI 能力构建和可扩展环境强化学习体系，降低部署开销。

AI加速落地，行业需可持续进化系统框架。清华系中数睿智将全新框架集成到语思智能平台，其5D - RAG框架破传统RAG痛点，且在多领域落地，为产业智能升级提供路径。

阿里国际发布多模态大模型Ovis2.5，在OpenCompass综合得分提升，保持SOTA水平。它在原生分辨率视觉感知等三方面突破，有9B和2B两版本，代码、模型等资源已开源，技术原理涉及架构、训练与数据。