「轻量化推理」共找到 2329 篇相关文章
一键检测你的电脑能跑哪些大模型,这项目6!
介绍工具`LLMFit`,它用Rust编写,能自动检测硬件配置,判断大模型能否流畅运行,还可推荐最优量化版本和运行模式。该项目在Github获5.9k+ star,有多种安装方式。
猛涨25k star!一键检测你的电脑能跑哪些大模型!
最近 Github 出现工具 `LLMFit`,用 Rust 编写,能自动检测硬件配置,判断大模型能否流畅运行,推荐最优量化版本和运行模式。有一键硬件检测等特性,安装使用方便,降低本地部署门槛。
诺奖获得者Hassabis警告:AlphaGo已觉醒,AGI正接管科研
十年前,AlphaGo击败李世石,让世人看到AI潜力。此后,DeepMind不断推进,其技术从棋盘拓展到科研,如AlphaFold解决蛋白质折叠难题,AlphaProof在数学推理获佳绩,这些成果显示AGI正接管科研。
AutoDev 预上下文引擎:预生成代码语义化信息,构建 AI 编程的知识基座
文章介绍 AutoDev 预上下文引擎,指出向量化代码检索性价比低,提出用预生成上下文提升 RAG 效果。Context Worker 能深度解析代码,支持多语言,使用简单,还可结合 MCP 服务获取上下文知识。
GPT-5或马上现身,神秘Repo出现了其踪迹
OpenAI新推理模型在奥赛夺冠,有人猜测是即将发布的GPT - 5,Sam Altman部分印证,还曾有人在biosec基准库发现其踪迹,但repo已不可见。
切开Claude大脑,Anthropic称发现了一个类似人类意识的内部空间
Anthropic在Claude模型中发现J空间,其与人类大脑全局工作空间理论相似,承载特殊内容且可干预、参与多步推理等,但模型和人脑有差异,研究也有局限性。
用AI复制人脑可行!MIT论文估算500亿美元、10到25年可实现
美国麻省理工学院研究生艾萨克·弗里曼团队论文指出,大脑仿真正从梦想变为可量化工程问题。关键技术加速发展,成本降低、算力接近需求,未来或可用于医疗等领域。
AI实力榜大洗牌!OpenAI谷歌强势领跑,Anthropic节节败退
Poe最新报告显示,2025年1 - 5月AI各领域市场份额大洗牌。OpenAI和谷歌势头猛,Anthropic掉队。文本生成、推理、图像等各领域竞争激烈,企业需搭建评估体系,按需选模型。
华为开源7B多模态模型,视觉定位和OCR能力出色,你的昇腾端侧“新甜点”来了
华为推出开源多模态模型openPangu-VL-7B,适配昇腾端侧。它推理性能性价比高,在多核心任务表现突出,技术报告还披露核心技术细节,为昇腾使用者带来新选择,丰富昇腾生态。
5B参数+4060Ti,10秒出图,全流程开源可复现!补齐统一多模态生成编辑的开源版图,让高质量图像生成真正变得更轻量、更普及
近日,多机构联合发布统一多模态生成编辑模型DeepGen 1.0,仅5B参数,集成五大能力,4060ti 16G上10秒出图,多项指标超大4倍工业级模型。团队开源全流程代码与数据,可从零复现。