「开源小模型」共找到 9460 篇相关文章
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
Linux基金会走访中国AI和机器人公司之后：美国根本不知道这里正在发生什么
2026年4月下旬，Linux基金会全球人工智能首席技术官Matt White访华8天，与多家公司交流。回国后他表示，美国对中国AI了解少，中国团队不封闭。芯片受限未阻竞争，开源有优势但要算经济账，智能体和机器人发展有挑战。
给机器人打工了一天，我们体验上了AI时代最魔幻的工作。
本文讲述作者公司小伙伴达达体验给具身智能做数据采集工作的经历。具身智能数据获取难，催生数据采集员岗位。达达面试顺利，工作时先觉新奇，后感手腕酸，日薪200 - 250元，凸显AI进步背后普通人的贡献。
3亿用户的豆包，能做成办公生意吗？｜甲子光年
6月24日，豆包专业版上线，三档定价68元到500元，搭配新模型等功能。它从C端聊天产品转向办公工具，但面临用户心智难改、价格较高等问题，其推出也将影响行业格局，加速C端AI产品免费时代终结。
AI第一金主黄仁勋：日均花掉20亿
AI投融资火热，黄仁勋成最大金主。过去财年英伟达投资175亿美元，今年已投400亿。投资风格是大手笔、广撒网，涵盖AI模型、算力、硬件等。偏爱OpenAI，投300亿，但与各实验室关系复杂，投资也有商业考量。
AI失忆症有了新解法，哈佛团队开发海马体仿生技术，要用AI终结人类“遗忘史”
近日，AI初创公司Engramme被曝正与投资者接洽融资约1亿美元，潜在估值达10亿美元。其联合创始人是哈佛教授加布里埃尔·克雷曼，技术基于其实验室成果，自研大记忆模型LMMs，已开放记忆API内测申请。
华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍
新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。
机器人浓度最高的一届春晚后，具身智能离走进千家万户还有多远？
InfoQ《极客有约》X QCon 直播栏目邀请专家探讨具身智能落地卡点。专家认为其虽面临模型泛化、数据采集等难题，但发展乐观。工业场景对通用性需求不大，Agent 架构或成关键，数据和物理交互等方面也有挑战。
GPT-5.4 mini+nano突袭，1/3价格养满血「龙虾」！OpenAI彻底杀疯
OpenAI发布GPT - 5.4 mini和nano，继承GPT - 5.4优势，速度快、成本低。在编码、推理、工具调用等方面表现出色，可作为「龙虾」主力模型。还提出分层调度架构，且全线上线，免费用户也能用，但mini长上下文处理有短板。
AI 推理精细化流量治理实战：RocketMQ LiteTopic 的“千人千面”流控方案
随着大模型推理服务成主流，传统消息队列限流机制在AI推理场景面临挑战。Apache RocketMQ 5.x推出LiteTopic，其精细化流量治理方案能实现‘千人千面’，解决队列头部阻塞和并发效率受损问题，还与阿里云百炼网关合作。