「GPU性能分析」共找到 3198 篇相关文章
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
21 页 PDF 实锤 Grok 3“套壳”Claude？Grok 3 玩自曝，xAI工程师被喷无能！
网友 GpsTracker 爆料，xAI 公司的 Grok 3 在“思考模式”下自称是 Anthropic 公司的 Claude 3.5。多种模式测试显示异常回应仅在“思考模式”触发，21 页 PDF 记录也证实其“自曝”。此事引发热议，有人吐槽预训练团队水平差。
13K star！这个项目太顶了，自动化 API，后台作业，工作流，UI开发，低代码一网打尽！
日常开发构建和管理内部工具费时费力，第三方方案费用高。开源项目Windmill是开发者福音，能将脚本自动转换成工作流程和UI，适用多场景，有自动UI生成等特色，安装使用简单。
LLM Inference 和 LLM Serving 视角下的 MCP
文章先解释 LLM Inference 和 LLM Serving 概念，再从两者视角分析 MCP，指出 MCP 是两者复合体，难归一边。最后预测 MCP 未来发展，要明确功能划分，前后端独立演进。
RL训练总崩溃？R1-Reward稳定解锁奖励模型Long-Cot推理能力
多模态奖励模型对提升多模态大语言模型表现至关重要，但强化学习在奖励建模应用有挑战。快手等团队提出R1 - Reward，解决训练不稳定等问题，在基准上超SOTA模型，还在快手业务场景成功应用。
微软将大量AI功能、智能体集成在Windows11，全民AI时代来了
今天凌晨微软官网发布以AI为主题的新版Windows 11，集成诸多AI功能，如设置中的Agent、Click to Do等，还推出两款新Copilot+PC设备，目前仅支持英文，未来会扩大范围。
英伟达CEO黄仁勋：错失中国AI市场，是美国巨大损失
在“Knowledge 2025”大会上，英伟达CEO黄仁勋接受CNBC专访，称中国AI市场未来2 - 3年达500亿美元，错过是美国巨大损失。还提到AI影响、与ServiceNow合作成果等，英伟达股价有波动，财报受关注。
中国智驾出海，到了重估商业模式的时刻｜甲子光年
本文报道智驾新程获得德系主流车企全球化乘用车平台项目定点，分析中国智驾出海从产品输出转向体系化出海的产业变革，拆解其切入欧洲顶级供应链的核心竞争力。
惊讶！！！3.2 万 Star OpenViking，让你的原地起飞！！！
OpenViking有3.2万Star，它把记忆、文档、提示词等上下文统一成可浏览地址空间，设计三层信息按需加载，检索留轨迹，还接入多种工具。不过它处Alpha阶段，用前要考虑许可证。
OpenAI「辣椒芯」干翻英伟达！老黄股价不跌反涨
OpenAI自研芯片「小辣椒」跑分碾压英伟达最强blackwell，低延迟、高吞吐、低并发等全达SOTA级别。但英伟达股价未跌反涨，OpenAI也表态不会弃用英伟达。「小辣椒」预计2027年量产，OpenAI还将开发后续版本，不过其数据中心负责人离职，无人接手。