在离线混部」共找到 8152 篇相关文章

新闻资讯7

上半年谁闷声赚钱?一文看懂芯片七板块

据财联社8月26日披露,截至8月25日,科创板39家公司业绩增幅超100%,集成电路表现突出。芯师爷按芯片设计、半导体设备等七大板块,盘点各板块企业上半年业绩,指出高增集中部分领域,其余环节蓄力。

芯师爷
产品应用7

Unsloth让大模型跑手机上!

Unsloth放出教程,可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化,Qwen2 - 0.5B旗舰机上表现流畅。教程介绍量化感知训练控制精度损失,还给出iOS和Android部署步骤及注意事项。

AI工程化
算法论文8

不靠英伟达,中科院国产 GPU 上跑通 76B 类脑大模型

过去大模型依赖Transformer和NVIDIA GPU体系,硬件自主化难。中科院团队提出类脑大模型SpikingBrain,超长文本处理上百倍加速,国产MetaX GPU平台稳定训练76B模型,开辟新道路。

AI科技评论
推荐文章7

软件工程中,对 AI 的过度依赖,会加速工程师的无能

资深软件工程师Doug Slater指出,软件工程中对大语言模型(LLM)过度依赖会加速工程师无能。LLM无法取代人类批判性思维,它输出、输入、开发速度和用户技能等方面存风险,且无法掌握程序理论和抵抗程序熵。

宝玉AI
推荐文章7

刚刚,Thinking Machines Lab博客提出策略蒸馏,Qwen被cue 38次

Thinking Machines Lab发布《策略蒸馏》博客,提出策略蒸馏可结合强化学习纠错与SFT奖励密度,成本低且能让小模型有强大性能。该成果受Qwen团队启发,大量用Qwen3模型。还对比了不同训练方法。

机器之心
算法论文8

刚刚,OpenAI找到控制AI善恶的开关:ChatGPT坏人格预训练阶段已成型

OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型某领域答错题,会致其其他领域“学坏”,还找到“毒性人格特征”。同时给出解决办法,能让模型恢复正常。

量子位
开源动态8

可能是目前效果最好的开源生图模型,元生图3.0来了

腾讯元发布并开源原生多模态生图模型元图像3.0,参数规模80B,是参数量最大的开源生图模型,也是首个开源工业级原生多模态生图模型,效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。

量子位
开源动态8

5.2K Star!离线也能翻译,零网络高隐私,40+语言的纯本地翻译神器!

日常线翻译服务有隐私、离线使用等问题,Argos Translate是100%本地运行的离线翻译方案,免费、隐私安全,支持40多种语言,具备多模态接口、GPU加速等功能,适合多种场景。

开源星探
开源动态8

不用上传数据了!苹果正式开源 Embedding Atlas,用 Rust+WebGPU 桌面实现科研级数据分析

苹果发布开源工具 Embedding Atlas,支持对大规模嵌入向量交互式可视化与探索。它浏览器端运行,保障数据隐私,有多种可视化功能,提供 Python 包和 npm 库,已 GitHub 开源。

InfoQ
新闻资讯8

中国团队首次Nature子刊发布医疗AI标准,未来医生MedGPT摘得全球桂冠

中国AI医疗公司“未来医生”协同专家制定CSEDB,首次提出评估医疗大模型临床能力的系统性框架,被《npj Digital Medicine》收录。其评估下,未来医生的MedGPT主流大模型中夺冠。

量子位