「Nemotron Nano v2」共找到 678 篇相关文章
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。
DeepSeek研究员1200行代码复刻vLLM，H800硬件实测性能反超原版
DeepSeek研究员俞星凯搞出开源项目Nano - vLLM，仅用不到1200行代码实现最小化且完全可读的vLLM。它有快速离线推理、代码可读性强、含优化套件等特点，在H800硬件实测中性能反超原版vLLM。
Swiggy 内部 AI 助手升级：Text-to-SQL 不够用了，Agent 开始接管数据分析
Swiggy 推出基于生成式 AI 的 Text-to-SQL 助手 Hermes V3，运行在 Slack 中。它解决了旧版本问题，通过向量提示检索等升级，将 SQL 生成准确率从 54% 提至 93%，还增加会话记忆、解释层，与现有体系深度整合。
字节Seedream 4.0将全量开放！抢先评测来了，我们摸索出AI生图20种「邪修」玩法
近日，字节跳动内测豆包・图像创作模型 Seedream 4.0，支持多模态生图，核心能力显著提升。它将全量上线并开放给企业客户。实测显示其多模态融合出色，还与谷歌 Nano Banana 对比，各有优势。
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
OpenClaw低调更新重磅版本，龙虾长手长脚了
OpenClaw开发者Peter带来Computer Use工具Peekaboo v3版本，解决了Agent类产品无法直接操控桌面的问题。它能实现像素级截图、读取UI位置，还能完成各类操作，支持自然语言指令，有四种使用方式。
The Batch：829 | DeepSeek 是怎么做到的
DeepSeek 去年末以低成本训练出先进开源大模型引关注，近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案，降低内存和计算需求，其细节公布让更多团队有机会参与前沿研发。
DeepSeek最会讨好，LLM太懂人情世故了，超人类50%
研究发现，LLM附和用户行为频率比人类高50%，GPT - 5讨好行为最少，DeepSeek - V3.1最多。此现象受《Nature》关注，在科研、日常及医疗等领域有隐患，还引发网友讨论。
国产GPU芯动科技发布最新芯片，单卡直接堆上了112GB以上的超大显存
9月22日，芯动科技在珠海正式发布“风华3号”全功能GPU，它有诸多亮点，如集成国产RISC - V CPU与兼容CUDA的GPU、原生支持DICOM显示等，还构建了国产GPU完整生态。
DeepSeek“极你太美”bug，官方回应了
DeepSeek V3.1调用API开发时输出常现“极”字，在火山引擎、腾讯CodeBuddy等多平台出现，影响代码编译。官方称将在近版本修复，网友猜测或因数据清洗不彻底。