搜索：推理优化与部署

「推理优化与部署」共找到 3521 篇相关文章

GitHub一周2000星！国产统一图像生成模型神器升级，理解质量双up，还学会了“反思”

智源研究院发布国产开源统一图像生成模型OmniGen 2.0版本。它增强理解与生成能力，打通多模态生态。玩法简单，技术有创新，还引入反思机制和新基准，推理效率提升，且将全面开源。

Meta进军AI超算领域，扎克伯格宣布2026年启用1GW「Prometheus」集群，2027年建成占地如曼哈顿的「Hyperion」计划部署超5GW级算力，Meta还将自建天然气电厂，力抗OpenAI与马斯克。

格灵深瞳的Glint - MVT视觉基础模型表现出色，线性探测准确率高于CLIP等，下游任务效果佳。其引入间隔Softmax损失函数，结合虚拟类别构造等优化方案提升性能，团队专注视觉研发，务实开放。

Anthropic将在2026年8月2日后发布的Claude模型全球部署肉眼不可见、机器可读的水印，用于表明文本和图像由其生成。该技术基于Google的SynthID - Text，不过此公告引发广泛争议。

Google安全团队开源AI文件类型检测工具Magika，抛弃固定规则匹配，用深度学习精准识别文件真实类型。它内置轻量模型，单CPU毫秒级推理，支持200+格式，准确率约99%，已大规模落地。

BellSoft 在 KubeCon 2025 大会发布新的“加固镜像”产品，集 Java 运行时优化、操作系统加固与主动 CVE 修复于一体，可减少已知漏洞、降低资源消耗，还提供 SBOM 满足合规需求。

网友用Rust重写DeepSeek - OCR推理栈，解决原版Python依赖复杂问题。此版本无Python依赖，可离线运行，兼容OpenAI API，还支持苹果芯片Metal加速，介绍了技术实现、使用方法和场景。

数据使用麻烦，存在“数据鸿沟”。开源项目SQLBot基于LLM和RAG技术，能用大白话查询数据库，将问题转成SQL执行并可视化呈现结果，功能实用，部署简单，降低了数据分析门槛。

腾讯视频团队推出跨平台开发框架ovCompose，弥补Compose Multiplatform不足。还推出KuiklyBase，涵盖多项鸿蒙适配等建设。该框架有高性能、支持混排等优势，已开源，未来将持续优化。

近期，Yann LeCun团队的LeWorldModel用简洁JEPA实现从像素端到端训练世界模型，降复杂度且验证潜在空间物理刻画能力；清华团队的Fast - WAM探讨推理阶段显式生成未来必要性，给出高效替代路径。