「AI应用架构」共找到 11465 篇相关文章
The Batch: 859 | Qwen3 的自主智能新进展
不到两周前 Kimi K2 超越其他开源非推理模型，如今阿里巴巴发布基于早期 Qwen3 - 235B - A22B 的三款新大语言模型权重，介绍了输入输出规格、架构设计、性能表现、使用方式等，还进行了性能对比。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
Meta 将移动端消息基础设施从 C 迁移到 Rust
Meta正在用Rust逐步重写移动端消息基础设施，替换老旧C代码。内存安全、开发者幸福感和长期可维护性是迁移动机。编译核心库用于多应用，虽Rust学习曲线陡，但团队用多种方式克服，还改进工具链。
7B模型对标GPT-4o，全球首个医疗代码生成大模型训练平台来了
研究团队发布全球首个医疗代码生成大模型训练平台MedAgentGym，提供评估基准和训练生态，提升大模型医疗代码生成与推理能力。经其训练的Med - Copilot - 7B达GPT - 4o相当水平，解决医疗AI编程瓶颈。
野生DeepSeek火了，速度碾压官方版，权重开源
近日，德国AI咨询公司TNG推出的「DeepSeek R1T2」模型火了，速度比R1快20%，性能不弱于R1。它采用AoE技术，融合官方三大模型，开源且在Hugging Face开放权重，获不少人期待。
你的扫描全能王，作价217亿冲刺港股IPO
扫描全能王母公司合合信息拟作价217亿赴港IPO，冲刺“A+H”双重上市。其C端有扫描全能王等产品，B端有TextIn等产品。合合以文本智能技术为核心，打造三大技术平台，C端靠付费订阅、B端卖产品模块盈利。
学习 MCP 最好的时机是 7 个月前，其次是现在
文章介绍 MCP（Model Context Protocol），它是实现 LLM 与外部能力高效互联的协议，像 USB - C 接口。其采用客户端 - 服务器架构，可让 LLM 突破能力边界。与 Function Calling 相比，MCP 成本低，能让业务团队参与构建智能体。
Day0迁移、一键部署，华为开源的昇思MindSpore成为大模型开发的“万能钥匙”
在大模型无法一统天下的背景下，开发者面临在一个框架、生态体验众多主流大模型和AI技术的难题。华为开源的昇思MindSpore可实现训练Day0迁移、推理一键部署，还介绍了其相关技术和实测效果。
文档OCR新范式0.84 页/秒，吊打MinerU Qwen2.5VL
MonkeyOCR采用SRR三元组范式，简化多工具管道，避免整页文档处理低效率。与MinerU、Gemini 2.5 Pro等对比，性能表现优，处理速度达0.84页/秒，但对扫描件效果欠佳，架构含多模型，可通过特定地址测试。
阿里Qwen3一口气开源多个向量&排序模型，冲！
今天阿里正式开源Qwen3-Embedding和Qwen3-Reranker系列，为多语言文本嵌入和相关性排序树立新标杆。提供0.6B/4B/8B三种版本，支持119种语言，在多个数据集达先进性能，赋能多种应用场景。