「软件栈优化」共找到 2060 篇相关文章
消费级显卡跑大模型训练门槛再降：Qwen3-1.7B强化学习只需5GB显存
消费级显卡跑大模型训练门槛再降，Unsloth AI的FP8精度强化学习方案让Qwen3 - 1.7B的GRPO训练只需5GB显存且性能无损。该方案与TorchAO合作，有推理优势，还在内存优化等方面表现出色。
吃灰 AI 眼镜爆改“交警 Copilot”，函数计算AgentRun 实操记录
作者将吃灰的Meta Ray - ban眼镜爆改成“交警Copilot”，介绍了“端 - 管 - 云”协同框架，分享客户端与服务端开发过程。还探讨用Agent架构和FaaS的原因，指出其在应对需求变化、节省成本等方面优势，最后提及项目待优化处。
走访100+机器人展台：拐点已至，具身智能进入千行百业｜WAIC 2026
7月17日，2026世界人工智能大会在上海开幕。与往届不同，今年大会更多展示具身智能在真实场景的应用。硬件迭代、软件与数据突破，让泛化能力和任务执行成功率显著加强。现场还呈现模型四条技术路线、数据基建等趋势。
AI 设计9个月就能媲美Blackwell？OpenAI “辣芯”绕开英伟达正面战场，但老黄的GPU大盘不稳了
OpenAI 展示与博通联合打造的定制 AI 芯片 Jalapeño，性能媲美英伟达 Blackwell 或谷歌 TPU。计划年底部署，是多代芯片开发首步。它专为大模型推理设计，设计周期短，成本低，OpenAI 借此扩展全栈能力。
纯CPU“踢开”GPU，中国超算九年后再登顶！
6月23日，国家超级计算深圳中心“灵晟”超算以2.19EFlops性能登顶全球超算TOP500榜单，这是世界首台超2EFlops的超算系统。它基于“灵鲲”平台，采用纯CPU设计，展现我国超算全栈自主可控能力。
LLM 技术在有道词典笔上的应用实践
本文围绕LLM技术在有道词典笔的应用展开。先分析端侧大模型落地挑战，如算力、功耗等。介绍有道词典笔等硬件及应用，对比端侧与云侧AI优劣。还阐述模型落地模式、算法优化及“子曰3数学模型”开源情况。
EMNLP25 | 北大x腾讯光子发布 C3 Benchmark：中英双语语音对话模型“地狱级”测试基准，直击语音对话模型软肋！
近年来语音对话模型受关注，但处理人类对话复杂现象的效能缺乏研究。北大联合腾讯光子构建中英双语C3 Benchmark数据集，评估模型应对复杂对话的能力，结果揭示性能瓶颈，为模型优化提供参考，代码和数据已开源。
WAIC机器人探展：我被全场最靓的崽「Moz1」种草了
2025 年世界人工智能大会上，千寻智能的人形机器人 Moz1 大放异彩。它搭载自研 VLA 模型 Spirit v1，具备强大泛化能力，硬件也有多项突破。千寻智能全栈自研技术，资本持续加码，有望推动具身智能商业应用。
微软刚发布Mu模型：支持Windows智能体，小参数跑出10倍性能
今天凌晨微软发布创新小参数模型Mu，3.3亿参数性能比肩Phi - 3.5 - mini，体量小10倍，离线NPU笔记本每秒超100 tokens响应。它支持Windows智能体，架构有多项创新，经训练优化后智能体表现出色。
浙江，冲出一匹碳化硅芯片全球黑马！
在‘双碳’目标与数字中国建设蓝图下，电能管理机遇巨大。黄兴博士指出将供电架构优化为高压直流可降低能耗，关键在于碳化硅功率芯片。其创办的派恩杰半导体，自主研发芯片，从芯片到封装助力客户，迎来产业机遇。