「开源推理模型」共找到 9149 篇相关文章
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
刚刚，美团开源全模态龙猫模型，和 ChatGPT 大战 100 回合打得难解难分
美团发布开源全模态 MoE 模型 LongCat-Flash-Omni，参数 560B 激活 27B。它有真正全模态能力，采用创新架构和训练范式，基准测试表现亮眼，部分指标超 Gemini-2.5-Flash，引发网友热议。
开源PDF表单自动化神器，一行命令，把静态 PDF 变成交互表单！
平时拿到的PDF表单大多无法直接填写，操作繁琐。GitHub上的开源工具CommonForms能自动识别PDF表单区域，一键生成可填写的交互式表单，基于深度学习模型FFDNet，功能强大且使用简单，还保障数据隐私。
香港中科院发布聆音大模型，400万张图喂出个“AI超声神医”
中国科学院香港创新研究院发布超声大模型“聆音”，用超400万张图像的超声数据集，经自监督学习训练。它在多项诊断任务破纪录，临床效果佳，还将模型等开源，有望推动领域发展。
中国中文信息学会大模型与生成专委会2025大模型战略研讨会成功举办
2025年6月27日，中国中文信息学会大模型与生成专委会2025大模型战略研讨会在哈尔滨举办。会议探讨技术革命、交流成果、发布基金，多位专家作报告、参与思辨讨论，聚焦大模型多方面话题。
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。
静态稀疏已死：Flux Attention 开启长文本 LLM 自适应推理新时代
文章指出长上下文LLM高效推理面临性能与效率难题，先介绍Elastic Attention打破静态稀疏桎梏，后重点阐述全新的Flux Attention，它将动态稀疏注意力范式升级为层级别路由，解决了算法与硬件的矛盾，在多方面实现突破。
手把手带你入门机器人学习，HuggingFace联合牛津大学新教程开源SOTA资源库
HuggingFace与牛津大学研究者推出机器人学习教程，附带开源数据集、模型等的LeRobot库。教程从经典机器人学讲起，介绍强化、模仿学习及通用策略，还提及解决现实瓶颈的技术与前沿模型。
50FPS、成本打掉70%，魔芯MoWorld把世界模型带进产业时代
近期，魔芯科技联合浙江大学潘云鹤院士、华为等发布实时交互世界模型MoWorld，推理速度超50FPS，部署成本仅为同规模GPU方案的30%。它全链路优化，将用于多行业，魔芯也完成亿元美金融资。
AGI前夜重磅：RL突破模型「认知上限」，真·学习发生了！
AI研究圈争论RL能否赋予模型超越基础模型的推理能力。UC Berkeley等团队提出DELTA框架，观察到“RL grokking”现象，还设计新任务验证，提出两阶段奖励调度，总结两种模式等，为争论带来新依据。