「8B大模型」共找到 8280 篇相关文章
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?
文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。
GitHub 1.8W star爆款!不到2M,win系统高级感拉满!
TranslucentTB是为Windows系统设计的开源轻量级工具,主打任务栏透明化。它资源占用低,功能丰富,有多种视觉效果、能智能动态切换等,还提供多种安装渠道。
The Batch: 871 | Mistral测量了大语言模型的能耗、水耗与物料消耗
法国AI公司Mistral发布对Mistral Large 2的环境分析报告,涵盖全生命周期影响。研究表明单次使用影响小,但累计负担大。虽研究有不足,但其方法或推动环保型AI发展。
RAG效果不佳?先别急着微调模型,这几个关键节点才是优化重点
文章深入探讨RAG技术实现与优化,指出其在AI应用开发中常被当黑盒,从文档分块、索引增强、编码、混合检索到重排序等关键环节解析,强调结合场景调优以提升召回与精确率。
19.8K star!一款开源可视化工作流调度项目,轻松搞定大数据任务!
Kestra 是开源工作流编排平台,用于处理复杂任务自动化问题。它跑在 JVM 上,用 YAML 配置,支持插件扩展。适用于多种任务调度场景,有配置简单、稳定、容错等特点,安装也容易。
2.8K Star!开源免费的离线OCR工具,识别准确率媲美大厂。
在文档数字化和自动化工作流中,离线OCR工具受青睐。GitHub上的TrWebOCR开源、离线,中文识别率高,媲美大厂。它亮点多,有快速上手指南和接口调用示例,适用场景广,但两年未更新。
Meta-Think ≠ 记套路,多智能体强化学习解锁大模型元思考泛化
上海交通大学等团队提出ReMA框架,将复杂推理解耦为元思维和推理智能体,通过迭代强化学习协作。在单轮实验中,ReMA在多基准测试表现优;多轮实验虽有提升但不稳定,需进一步探索。
大模型从“胡说八道”升级为“超级舔狗”,网友:再进化就该上班了
AI开始研究Physical AI:FSD级团队亮出首版模型Simate-beta,空降RoboDojo
本文介绍成立仅三个月的Simate公司,核心团队曾打造对标特斯拉FSD的智驾系统,现已推出首版通用物理快系统Simate-beta,登顶RoboDojo,采用AI-native自动化体系研发Physical AI,已开启AutoResearch平台内测,完成多轮数亿元融资。
大模型手语翻译新进展:CAPO-SLT拿下中文三项最高分 | EMNLP'26
vivo AI Lab团队针对自动手语翻译生成中,无视觉证据支撑的错误累积导致语义偏移的痛点,提出置信度感知策略优化方法CAPO-SLT,仅调整强化学习更新规则,不修改主干网络,在中文手语翻译测试中拿下三项指标最高分,成果将发表于EMNLP'26。