「大模型推理训练」共找到 8433 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
重塑你的vlog！PickStyle打造稳定的视频风格迁移模型
Pickford提出PickStyle，这是基于扩散模型的视频到视频风格迁移框架。它结合上下文–风格适配器和CS–CFG机制，能在保持画面连贯时准确迁移风格，还能避免闪烁等问题，不过也继承了基础模型部分缺陷。
华为重金押注的世界模型公司，新融了10个亿！
具身基模和通用机器人企业极佳视界完成近10亿元Pre - B轮融资。其具身基模全球领先，国内首家布局世界模型，原生本体开启量产，在多场景有开创性应用，获产业巨头和顶尖资本认可。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
理解与生成统一多模态模型：现状与未来 | 直播预约
从GPT - 4o到Gemini，AI实现跨模态联合理解与生成，核心是统一多模态基础模型。但开源社区构建强大统一模型面临挑战。南大等团队梳理超750篇论文分析技术路线，将有直播探讨现状与未来。
从静态模型到数字生命体：自进化AI Agent综述
近年大型语言模型催生AI智能体发展，但现有系统依赖人工预设，难适应动态环境。论文提出自进化AI智能体，可通过环境反馈自动优化，还提出三定律、四阶段范式演进模型等，开源EvoAgentX框架。
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。
Agent 框架热潮褪去，大模型开发已经进入“生死局”？
蚂蚁开源发布《2025 ⼤模型开源开发⽣态全景与趋势》报告，涵盖 19 个技术领域 135 个项目，解读七大趋势。当下大模型开发生态如黑客松，项目兴衰快速，AI Search 式微、AI Coding 火热，三大技术领域也有变化。
直播预约 | 世界模型，点燃下一个AI爆点（第二期）
本周三‘世界模型’沙龙反响热烈，决定加场。4月23日19:00 - 20:30，机器之心集结4位专家探讨世界模型前沿话题，包括刘子纬、赵行、贾奎、刘桂良，直播在机器之心视频号进行。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。