「类LLM机制」共找到 1979 篇相关文章
深度拆解，硬核解构，揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统，介绍其核心组件和高级特性，包括推理引擎流程、调度机制、高级功能等，还提及系统扩展、分布式部署、性能测量等内容，助力读者理解推理引擎工作原理。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式
KTransformers由趋境科技与清华团队联合研发，是高性能异构推理框架。其论文入选SOSP 2025，还与SGLang合作。它有算子优化等创新，能让CPU与GPU协同，推动推理架构融合，已成广泛复用的底层框架。
Karpathy 评 DeepSeek-OCR：分词器必须消失！马斯克：光子才是 AI 的终极语言
Andrej Karpathy 发长文讨论 DeepSeek - OCR 论文，提出图像输入比文本更高效，还表达对分词器的厌恶，认为其必须消失。马斯克称 AI 主要交互将是视觉。开发者分享实践经验，也有人提出质疑。
他用一生证明AI没有意识！「中文屋」提出者逝世，享年93岁
2025年9月，Anthropic团队发现AI模型出现「主体错位」现象，而同一周哲学家约翰·塞尔去世，享年93岁。他一生证明AI只会模拟理解，提出「中文屋」思想实验，如今AI似有「意识」，而他却毁于性骚扰丑闻。
硅谷CEO们高喊AI威胁论，「5年内失业率飙升至20%」，但95%AI项目赔本赚吆喝
当下‘AI 威胁就业’论调甚嚣尘上，如Anthropic等公司高管预测失业率飙升。耶鲁大学论文分析AGI经济中人类劳动地位。但MIT报告显示，95%公司AI项目未获商业回报，多数试点停滞。
13万被引！ImageNet作者苏昊或将加盟复旦
近期，「UCSD副教授苏昊将加盟复旦」传言不断，但尚无权威公开信息证实。苏昊是ImageNet早期参与者，科研成果丰硕，论文被引达13.3万。若加盟，或为复旦带来多方面提升，但也面临诸多挑战。
国产开源大模型：再见9月，你好10月~
9月国产大模型持续开源，涉及DeepSeek、Qwen、百度等。如DeepSeek-V3.1缓解语言问题、优化Agent能力；阿里Qwen系列开源超10个模型；百度Qianfan-VL增强领域能力等。还展望10月新模型开源。
Jina官方MCP三板斧：搜、读、筛
Jina官方发布MCP服务器，将核心能力封装成LLM工具集。介绍工具功能、连接使用方法，给出问题排查方案，通过案例展示搭建工作流效果，评估不同模型，指出Agent瓶颈及MCP开放生态价值。
阿里重磅开源：端到端VLM文档解析模型，图片直出结构化HTML！
在AI文字识别类应用中，文档解析常不尽人意。阿里开源端到端文档解析模型Logics - Parsing，基于VLM，能图片直出结构化HTML，有统一、智能、精细等亮点，还给出使用步骤。