「FP8」共找到 556 篇相关文章
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
让AI自动生成工作流
不会搭建工作流没关系，可让AI自动生成。如用Claude帮搭建n8n工作流，它生成JSON文件，复制粘贴到n8n配置节点即可用。介绍n8n特点，还讲了Claude自动生成n8n工作流的操作步骤。
8.8K Star！真正的本地实时 Whisper 开源神器，彻底干翻云端 STT！
做实时语音转文字系统，上云端 API 贵且隐私难保障，本地跑 Whisper 延迟高。WhisperLiveKit 是专为本地流式语音识别优化的全栈方案，解决了 Whisper 痛点，有极速处理等功能，适用多类项目。
8.8k星星！开源的211个专家级Agent，一键接入，一个人就是一个团队
今天推荐agency-agents-zh库，它是agency-agents深度汉化版，有211个精选Agent，适配国内生态。需注意，skill并非越多越好，按需选择，避免浪费资源和输出无效结果。
DeepSeek悄悄更新：Mega MoE、FP4 Indexer来了
昨天下午，DeepSeek 更新了 DeepGEMM 代码库，带来新东西 Mega MoE。它将 MoE 计算流程整合，让数据通信和计算同时发生，提高 GPU 利用率。还尝试组合精度、搞 FP4 indexer 等，是基础设施层重构尝试。
3.8K星爆款！Google「langextract」可视化溯源，信息抽取神器
Google的「langextract」在GitHub获3.8K星，是信息抽取神器。它有精准源定位、可靠结构化输出等特点，支持多种LLM，适用于各领域，文章还给出实战代码示例。
爆改！8.1 万 Star LobeHub ，终于让我彻底解放啦！！！！！
LobeHub是开源的Agent工作与生活空间，GitHub约8.1万Star。它将Agent作为工作基本单位，解决了多Agent管理难题，有创建、协作、调度等功能，还介绍了工作流和自托管方法。
1/8成本比肩Claude 3.7，Mistral Medium 3来了
“欧洲OpenAI”Mistral AI发布多模态新模型Mistral Medium 3，主打编程和多模态理解，成本仅Claude 3.7的1/8，性能达其90%，API已上线，还推出企业聊天机器人服务，引发网友不同看法。
11.8k Star 爆火！Firecrawl开源王炸，秒级生成React应用！
知名网页抓取工具Firecrawl团队推出开源项目Open Lovable，几天内获11.8k Star。它是AI网页克隆工具，能秒级将网站克隆为React应用，功能丰富，适合多类人群，还介绍了上手步骤和应用场景。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。