「模型工具」共找到 8859 篇相关文章
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
玩不过来AI新品？实测10大神级Skills，各种AI工具通杀！
2026年AI工具更新快，核心概念是Skills。它比追新工具重要，可跨平台复用。作者实测10大神级Skills，涵盖内容处理、设计开发等阶段，还推荐了Skill管理产品Agent Skills Guard。
物理AI的「原生」时刻：原力灵机发布具身大模型DM0
主流‘预训练 - 后适配’范式有局限，原力灵机联合阶跃星辰提出具身原生 VLA 模型 DM0。它能统一机器人操作与导航，在 RoboChallenge 测试领先，还介绍了架构、训练方法及未来演进方向。
性能大涨！阿里开源新版Qwen3模型，霸榜文本表征
今日凌晨阿里开源Qwen3-Embedding和Qwen3-Reranker两款新模型，专为文本表征等任务设计，支持119种语言。测试显示其性能出色，在多语言文本表征和排序任务中超越众多模型，还采用了多种创新设计与训练方法。
变天了！WindSurf推出workflow功能，低代码大模型应用开发平台将面对“降维”打击
Windsurf在1.8.2版本推出workflow功能，其采用自然语言定义工作流并与开发IDE深度集成，是更高级形态。该功能特性丰富、应用场景多，对Dify等应用编排工具或造成‘降维打击’。
从社区数据出发，再看大模型开源开发生态全景与趋势
蚂蚁开源先后在527蚂蚁技术日和外滩大会发布大模型开发生态开源项目全景图1.0和2.0版本。2.0版更新评估方法，呈现生态新变化，还分析技术趋势、开发者分布，提及项目进出情况及TensorFlow衰落等。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
Apple | 开源视觉语言模型：FastVLM，可手机运行，首token速度提升 85 倍
苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM，代码仓库含 iOS/macOS 演示应用。它解决体积和速度问题，首 token 输出速度提升 85 倍，引入 FastViTHD 编码器，适配 iOS/Mac 生态，有不同参数量级版本。
开源端到端语音大模型：直接从原始音频输入，生成语音输出
目前大模型大多只能输出文本，人机音频交互不顺畅。Step - Audio团队开源端到端语音大模型Step - Audio - AQAA，能直接听懂音频问题并合成语音回答，介绍了其架构和各核心模块。
征集全国首部AI大模型私有化部署标准起草单位和个人！
智合标准中心组织起草国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》，已正式立项并征集起草单位和个人。该标准能解决企业部署痛点，有全流程覆盖等亮点。