「推理服务」共找到 2630 篇相关文章
TileLang深入详解-第一章-GPU 体系结构复习
作者借长假学习 TileLang 并撰写此文，先复习 GPU 体系结构，包括计算与线程组织、存储层次、专用指令单元，接着介绍核心性能模型与优化原理，最后给出基于 TileLang 的基准测试实践。
老牌Transformer杀手在ICLR悄然更新：Mamba-3三大改进趋近设计完全体
Transformer架构仍是AI主流，Mamba作为挑战者影响力大。Mamba-3在ICLR 2026盲审，有梯形离散化、复数化状态空间模型、多输入多输出状态空间模型三大改进，实证表现佳，适合多场景。
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。
AI 领域最''不务正业''的团队，可能做了一件最正确的事
马卡龙是一款主打帮助用户更好生活的个人智能体，有深度记忆和生成定制化生活场景小应用两大核心特点。它区别于生产力智能体，有技术积累，基础聊天免费，开发小应用收费。
刚刚，清华团队用27M参数击败o3-mini！或将改变AI发展方向
清华大学研究团队发布论文，展示Hierarchical Reasoning Model（HRM）。该模型仅27M参数、1000个训练样本，在推理任务上击败OpenAI的o3 - mini - high，或改变AI发展方向。
清华-腾讯联手：音频 - 视觉多模态任务统一框架
Crab是人大、清华和腾讯合作论文提出的模型，目标是高效一统多模态场景理解任务。它解决了音频 - 视觉理解模型任务干扰、合作显式化不足等难点，通过构建数据集、设计结构和统一架构实现多任务合作。
爬虫界“瑞士军刀”！开源高性能爬虫工具，实施进度监控、全栈SDK支持、n8n深度集成！
在AI驱动的数据时代，WaterCrawl是基于Python和Scrapy的开源网页爬虫工具，专为大规模数据提取和LLM优化设计，支持多语言内容抓取、实时进度监控和深度AI平台集成，优势显著。
99%的人都不知道：MCP 必须在 Claude Code 外面装
作者分享飞书MCP安装经验，指出MCP要在Claude Code外安装，介绍用Cursor生成安装命令、验证安装、删除服务等技巧，还整理《MCP安装指令文档》，复制粘贴就能用。
国产大模型高考出分了：裸分683，选清华还是北大？
字节跳动Seed团队公布全球第一梯队大模型“高考成绩”，Gemini理科655分排第一，豆包文科683分排第一、理科648分排第二。文章解析评测标准，分析各科目表现，还介绍豆包能力提升技术亮点。
OmniAvatar震撼开源！阿里夸克开源全新音频驱动角色模型
音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。