「AI推理加速」共找到 11290 篇相关文章
DeepSeek 模型技术之旅:从 V3 到 V3.2
本文深入剖析了 DeepSeek 模型从 V3 到 V3.2 的技术演进,对比了基座与推理模型,介绍了架构、训练方法变化,如 V3.2 结合 MLA 与 DSA,更新奖励和 GRPO 算法,还提及 V3.2-Speciale 扩展思考特性。
田渊栋被裁后新offer排到法国!原来Llama 4.5训完后被卸磨杀驴了
Meta此次裁员引发诸多争议,工作超十年的田渊栋整组被裁。有说法称是因没做出基于Llama 3的推理模型,但田渊栋否认。Llama 4.5训练好后团队被裁,且后续还将裁风控部门。不过田渊栋获多家公司青睐。
设计师的天塌啦!!!1k Star Editable Design
本文介绍上线不久就收获1k Star的开源项目Editable Design,该项目针对AI设计交付后无法灵活修改的痛点,提出由Agent生成带结构的可编辑设计,支持HTML和PPTX格式,适配需要反复修改的设计场景。
全网首份「龙虾」安全部署指南来了!360出品
近日,开源AI智能体OpenClaw走红,多地出台扶持政策,部署成趋势。但它带来新安全挑战,工信部、信通院等已预警。360集团率先发布国内首份《OpenClaw安全部署与实践指南》,为政企和开发者提供安全参考。
AliSQL 向量技术解析(一):存储格式与算法实现
随着AI与大模型应用普及,向量存储与检索需求大增。AliSQL基于MySQL 8.0扩展向量处理能力,本文聚焦其向量索引,介绍存储格式、算法实现,如HNSW算法及插入、搜索等操作,还提及辅助表设计与DDL原子性。
牛!小米开源「音频语言模型」,超1亿小时预训练时间,音频理解和输出能力是真顶!
小米推出开源音频语言模型MiMo - Audio,有超1亿小时预训练时间。它能理解音频,70亿参数模型在多基准测试达SOTA,音频理解超Gemini - 2.5 - Flash,复杂推理优于GPT - 4o - Audio,还支持多模态任务。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度,但直接丢层会降低性能。为此提出滑动层合并法,根据相似度阈值融合连续层,简化结构且保持性能。实验显示该方法优于现有技术,还揭示了与宽度修剪结合的潜力。
甲小姐对话程路:做能源领域的“自动驾驶”|甲子光年
本文是甲小姐对话新奥能源程路,探讨能源领域“自动驾驶”。程路认为能源转型正当时,AI是关键。新奥泛能网构建数字能源运营系统,提出“能源领域的自动驾驶”分级概念,还介绍了数据处理、算法及落地应用等情况。
Kimi新出的Agent集群,到底有多恐怖?
Kimi发布K2.5模型及Agent集群功能,将国产AI推向“组织智能”新高度。K2.5全能且开源,多项评测优于GPT - 5.2 - xhigh且成本低。Agent集群可按需协调子Agent,实现“角色涌现”与“3D编排”。
老外傻眼!明用英文提问,DeepSeek依然坚持中文思考
DeepSeek-V3.2和DeepSeek-V3.2-Speciale推理能力显著提升,海外研究者用英文提问,它却用中文思考。评论有两种观点,相关论文显示中文省token但非最有效,大模型选思考语言并非只看效率。