「多模态语言推理」共找到 3450 篇相关文章
Qwen3-ASR开源：够稳定，能流式，多语言！
今日正式开源Qwen3-ASR系列模型，含两个语音识别与一个语音强制对齐模型，支持多语种。依托创新技术实现精准稳定识别，1.7B模型多场景达SOTA，0.6B兼顾性能效率，强制对齐模型精度超传统模型。
Mistral 3发布，14B多模态小模型表现优异
Mistral AI第三代模型发布，含三个小型密集模型和稀疏混合专家模型Mistral Large 3，全用Apache 2.0许可。有多项技术亮点，Ollama等支持部署微调，还给出实用配置建议。
高通要发两款AI推理芯片，资本市场反应强烈
高通周一宣布明年推AI200芯片，2027年跟进AI250，股价应声上涨。两款芯片基于移动神经处理技术，专攻AI模型部署，沙特AI公司已计划采用，高通想借此进军AI芯片市场。
大型语言模型正在掏空和填满你的钱包
人工智能改变赚钱和花钱方式，生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用，如客服降成本、内容创作提效率等，企业应积极拥抱技术革命。
ROLL：面向大规模语言模型的高效强化学习框架
本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。
刚刚，何恺明团队新作，「嵌入式语言流」ELF来了
何恺明团队提出ELF模型，将扩散过程置于连续向量空间，只在最后翻译成词。它用一个网络实现去噪和解码，引入自条件机制。实验显示，ELF用不到其他方法十分之一数据，生成质量全面领先。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
从大模型到多模态，图文混排Agent彻底起飞~
上周智谱多模态开源周，从GLM 4.6v到Autoglm，其图文并排使用场景很吸睛。上传PDF论文，它能生成图文混排解读文章，效果好。作者逆向原理复刻代码，还分享GLM 4.6V三个有意思的能力。