「vllm v1」共找到 2117 篇相关文章
Agent 2.0时代来了,首批「工业级智能体」正在核心位置上岗
近日科技圈感叹AI工具提升效率,谷歌工程师分享使用智能体经历。1月7日阿里云百炼全面升级,开启智能体‘工业化流水线’时代,解决技术落地问题,发布企业版,推动人机协同时代到来。
字节跳动内部信:大幅调薪+职级洗牌;千问“干死豆包”图疯传,阿里回应;六小龙IPO战打响,MiniMax、智谱率先过聆讯|Q资讯
本文汇总多则科技资讯。如字节跳动调薪并推行新职级体系;阿里回应千问‘干死豆包’图为AI生成;马斯克薪酬方案裁决恢复;OpenAI发布编程模型;小红书、腾讯等也有业务动态。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR,针对Fused Triton MoE的Down Projection kernel加入TMA优化,在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著,还详细分析了优化背景、思路、实现细节及测试结果。
3B Image Captioning小钢炮重磅来袭,性能比肩Qwen2.5-VL-72B
文章推荐Dense Image Captioning新技术CapRL,它首次将DeepSeek - R1强化学习法用于image captioning,创新定义reward。训练的CapRL - 3B模型性能比肩Qwen2.5 - VL - 72B,解决了reward设计难题,已开源相关内容。
中际旭创的高增长,还能持续多久?
今年夏季光模块龙头中际旭创市场表现强劲,市值逼近4600亿,但控股股东计划减持。此前也有股东减持,市场曾争论其估值合理性。要实现250亿利润目标,受北美大厂算力支出、竞争、CPO进展等因素影响。
GPT-6或将比GPT-5强10倍!奥特曼揭秘ChatGPT如何诞生
奥特曼在访谈中表示ChatGPT从1到10的艰难已过,未来从10到100或更易。他还探讨AI变革、企业洗牌、工作替代等问题,揭秘ChatGPT诞生过程,阐述OpenAI愿景及AI普惠方案。
讲习班日程公布|第四届全国大模型智能生成大会(LMG 2025)
第四届全国大模型智能生成大会(LMG 2025)11月1 - 3日在成都召开,预计超千人参会。11月3日的讲习班邀请四位青年专家,围绕AI基础设施、扩散语言模型等前沿议题,分享技术进展与实战经验。
为防AI刷题,Nature等顶刊最新封面被做成数据集,考验模型科学推理能力|上海交通大学
上海交通大学王德泉教授课题组提出MAC基准,用顶级期刊最新封面构建测试集,评测多模态大模型能力。研究设计两种含“语义陷阱”的测试任务,发现顶尖模型有局限,还提出DAD方法提升表现,采用双重动态机制。
甲小姐对话黄伟:一边“找死”,一边活下去 | 甲子光年
云知声创始人黄伟创业13年、筹备上市5年,其经历反映中国AI企业生存真相。他分享云知声上市波折、战略选择、应对竞争策略等,如在‘等死’与‘找死’间抉择,认为市场分散利于创业公司,AI 2.0竞争更激烈。
极致优化Android平台APK的大小
文章以Android为例,介绍UE包可裁剪部分的优化思路与实践,优化APK大小和Native库运行时内存占用。从压缩NativeLibs、代码体积优化、资源裁剪等方面着手,还给出优化效果和额外资料。