「参数知识迁移」共找到 1391 篇相关文章
英伟达笑到最后！训练2000步，1.5B逆袭7B巨兽，Scaling真来了
英伟达团队提出ProRL训练法，将强化学习扩展到超2000步。用此方法训练的15亿参数模型媲美70亿参数的Deepseek - R1 - 7B，在多任务中表现出色，解决了熵崩溃和训练不稳定问题。
如何让LLM的输出更有创造性和随机性？
文章指出让大模型生成随机创造性内容困难，介绍了调整温度和top_k参数等提升LLM创造性和随机性的方法，还提到min_p参数影响及外部引入随机性思路，不过LLM本质有局限，多智能体或可缓解。
微软发布GUI Agent新范式！告别传统方式，小参数少数据，7B吊打72B模型
微软发布GUI Agent新范式GUI - Actor，告别传统Agent定位死板、缺乏空间感和兼容性差等问题。它用无坐标交互技术，在测试中表现优异，省数据算力，未来在多领域有应用潜力。
哈萨比斯出的难题，GPT之父接上了：用一个知识停在1930年的模型
GPT之父Alec Radford等用1931年前数据训练13B模型Talkie，切断现代知识污染。研究者测试其能力，探讨它对未来的“预感”、规避污染问题及数据多样性等，同时训练中也面临时间泄漏、数据质量等难题。
腾讯混元 TurboS 技术报告首次全公开：560B 参数混合 Mamba 架构，自适应长短链融合
日前腾讯混元 TurboS 技术报告全公开。它是超大型 Hybrid Transformer - Mamba 架构 MoE 模型，有自适应长短思维链机制，总参 560B。在多榜单成绩亮眼，多语种和多任务处理能力强，还介绍了核心创新、训练策略等。
用最简单的大模型技术打造一个迁云专家有多难？
文章探讨在云迁移领域用大模型技术“复制”专家80%核心能力。分析标准化方案不足及简单RAG局限，介绍“LX0.1”AI专家助手构建，还提及分层评测、人机协同等优化，最后展望AI在云迁移的未来方向。
腾讯祭出开源核弹！LeVo音乐生成模型，媲美Suno，支持零样本风格迁移，歌词完美匹配
音乐生成领域有重大突破，腾讯AI Lab开源高保真音乐生成模型LeVo。它由LeLM和音乐编解码器组成，能解决现有方法在音质、音乐性等方面的局限，实验显示其优于现有方法，功能强大且适用场景多。
腾讯混元TurboS技术报告首次全公开：560B参数混合Mamba架构，自适应长短链融合
腾讯公开混元TurboS技术报告，该模型是超大型Hybrid Transformer - Mamba架构MoE模型，融合Mamba与Transformer架构优势，有自适应长短思维链机制，激活参数56B。在多评测中表现佳，推理成本低。
斯坦福与Adobe新研究，模仿蒸馏技术轻松让200亿参数图像生成高质量大模型
斯坦福大学和Adobe研究院联手，用pi - Flow技术让200亿参数文本到图像大模型4步内生成高质量、高多样性图片。此前少步生成有质量和多样性问题，他们推出GMFlow和pi - Flow解决难题，LakonLab是其背后工程支撑。
2张4090竟能本地微调万亿参数Kimi K2！趋境联合清华北航把算力门槛击穿了
仅需2 - 4张消费级显卡（4090），就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动，大幅降低成本，开启AI个性化定制时代。