「开源推理模型」共找到 9214 篇相关文章
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
重塑你的vlog！PickStyle打造稳定的视频风格迁移模型
Pickford提出PickStyle，这是基于扩散模型的视频到视频风格迁移框架。它结合上下文–风格适配器和CS–CFG机制，能在保持画面连贯时准确迁移风格，还能避免闪烁等问题，不过也继承了基础模型部分缺陷。
人形机器人交付元年，行业从卷模型转向拼数据
2026年是具身智能交付元年，行业从卷模型转向拼数据。全球权威机构重新定义“人形机器人数据”地位，真机数据是模型落地关键。乐聚等企业积极布局，通过训练场模式获取数据，解决行业痛点。
华为重金押注的世界模型公司，新融了10个亿！
具身基模和通用机器人企业极佳视界完成近10亿元Pre - B轮融资。其具身基模全球领先，国内首家布局世界模型，原生本体开启量产，在多场景有开创性应用，获产业巨头和顶尖资本认可。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
CVPR2026 | Streamo：让大模型变成实时流式交互助手
香港浸会大学联合腾讯优图实验室提出 Streamo，将‘何时回答’变为模型预测的 token，通过端到端训练框架把离线视频模型转化为实时流视频助手，还构建 Streamo - Instruct - 465K 数据集，实验效果良好。
真正的AI竞争力，藏在大模型“后训练”这一步
当全球聚焦基座模型参数竞赛时，后训练变革正悄然发生。产业共识是，大模型后训练是AI落地产业必经之路。后训练技术从SFT演进至强化学习范式，企业应用也有了从技术到商业价值的完整链路。
直播预约 | 世界模型，点燃下一个AI爆点（第二期）
本周三‘世界模型’沙龙反响热烈，决定加场。4月23日19:00 - 20:30，机器之心集结4位专家探讨世界模型前沿话题，包括刘子纬、赵行、贾奎、刘桂良，直播在机器之心视频号进行。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
微软为 Windows 11 内置全新命令行编辑器 Edit，开源且轻巧
在 Build 2025 开发者大会上，微软发布全新开源命令行文本编辑器 Edit，将作为 Windows 11 内置组件。它轻巧且功能实用，但开发者对其必要性存疑，微软解释了自研考量，代码已开源。