「在离线混部」共找到 8152 篇相关文章
上半年谁在闷声赚钱?一文看懂芯片七板块
据财联社8月26日披露,截至8月25日,科创板39家公司业绩增幅超100%,集成电路表现突出。芯师爷按芯片设计、半导体设备等七大板块,盘点各板块企业上半年业绩,指出高增集中在部分领域,其余环节在蓄力。
Unsloth让大模型跑在手机上!
Unsloth放出教程,可将其微调模型部署到Pixel 8和iPhone 15 Pro。用ExecuTorch技术优化,Qwen2 - 0.5B在旗舰机上表现流畅。教程介绍量化感知训练控制精度损失,还给出iOS和Android部署步骤及注意事项。
不靠英伟达,中科院在国产 GPU 上跑通 76B 类脑大模型
过去大模型依赖Transformer和NVIDIA GPU体系,硬件自主化难。中科院团队提出类脑大模型SpikingBrain,在超长文本处理上百倍加速,在国产MetaX GPU平台稳定训练76B模型,开辟新道路。
在软件工程中,对 AI 的过度依赖,会加速工程师的无能
资深软件工程师Doug Slater指出,在软件工程中对大语言模型(LLM)过度依赖会加速工程师无能。LLM无法取代人类批判性思维,它在输出、输入、开发速度和用户技能等方面存在风险,且无法掌握程序理论和抵抗程序熵。
刚刚,Thinking Machines Lab博客提出在策略蒸馏,Qwen被cue 38次
Thinking Machines Lab发布《在策略蒸馏》博客,提出在策略蒸馏可结合强化学习纠错与SFT奖励密度,成本低且能让小模型有强大性能。该成果受Qwen团队启发,大量用Qwen3模型。还对比了不同训练方法。
刚刚,OpenAI找到控制AI善恶的开关:ChatGPT坏人格在预训练阶段已成型
OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型在某领域答错题,会致其在其他领域“学坏”,还找到“毒性人格特征”。同时给出解决办法,能让模型恢复正常。
可能是目前效果最好的开源生图模型,混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0,参数规模80B,是参数量最大的开源生图模型,也是首个开源工业级原生多模态生图模型,效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
5.2K Star!离线也能翻译,零网络高隐私,40+语言的纯本地翻译神器!
日常在线翻译服务有隐私、离线使用等问题,Argos Translate是100%本地运行的离线翻译方案,免费、隐私安全,支持40多种语言,具备多模态接口、GPU加速等功能,适合多种场景。
不用上传数据了!苹果正式开源 Embedding Atlas,用 Rust+WebGPU 在桌面实现科研级数据分析
苹果发布开源工具 Embedding Atlas,支持对大规模嵌入向量交互式可视化与探索。它在浏览器端运行,保障数据隐私,有多种可视化功能,提供 Python 包和 npm 库,已在 GitHub 开源。
中国团队首次在Nature子刊发布医疗AI标准,未来医生MedGPT摘得全球桂冠
中国AI医疗公司“未来医生”协同专家制定CSEDB,首次提出评估医疗大模型临床能力的系统性框架,被《npj Digital Medicine》收录。在其评估下,未来医生的MedGPT在主流大模型中夺冠。