「AI推理成本」共找到 11687 篇相关文章
设计师的天塌啦!!!1k Star Editable Design
本文介绍上线不久就收获1k Star的开源项目Editable Design,该项目针对AI设计交付后无法灵活修改的痛点,提出由Agent生成带结构的可编辑设计,支持HTML和PPTX格式,适配需要反复修改的设计场景。
全网首份「龙虾」安全部署指南来了!360出品
近日,开源AI智能体OpenClaw走红,多地出台扶持政策,部署成趋势。但它带来新安全挑战,工信部、信通院等已预警。360集团率先发布国内首份《OpenClaw安全部署与实践指南》,为政企和开发者提供安全参考。
AliSQL 向量技术解析(一):存储格式与算法实现
随着AI与大模型应用普及,向量存储与检索需求大增。AliSQL基于MySQL 8.0扩展向量处理能力,本文聚焦其向量索引,介绍存储格式、算法实现,如HNSW算法及插入、搜索等操作,还提及辅助表设计与DDL原子性。
VLM 实现 10%的精度提高,13.1倍加速!纽约大学新算法让视觉语言模型更小、更快、更准确
纽约大学研究团队用QSVD新方法让视觉语言模型(VLM)效率飞跃,在普通GPU上实现13.1倍加速。它将Q、K、V矩阵捆绑处理,设计秩分配策略,引入量化方案,经多模型评估,展现出低硬件成本、高精度优势。
牛!小米开源「音频语言模型」,超1亿小时预训练时间,音频理解和输出能力是真顶!
小米推出开源音频语言模型MiMo - Audio,有超1亿小时预训练时间。它能理解音频,70亿参数模型在多基准测试达SOTA,音频理解超Gemini - 2.5 - Flash,复杂推理优于GPT - 4o - Audio,还支持多模态任务。
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度,但直接丢层会降低性能。为此提出滑动层合并法,根据相似度阈值融合连续层,简化结构且保持性能。实验显示该方法优于现有技术,还揭示了与宽度修剪结合的潜力。
甲小姐对话程路:做能源领域的“自动驾驶”|甲子光年
本文是甲小姐对话新奥能源程路,探讨能源领域“自动驾驶”。程路认为能源转型正当时,AI是关键。新奥泛能网构建数字能源运营系统,提出“能源领域的自动驾驶”分级概念,还介绍了数据处理、算法及落地应用等情况。
Agent产品,快者为王?Anthropic 和 Databrick CEO 对话解读
Anthropic和Databrick以「人工智能的未来:面向各领域的专用Agent」为主题举办线上峰会,两家公司CEO Dario Amodei和Ali Ghodsi对谈,分享Agent未来、相关合作等话题,还探讨数据价值、治理风险及AI应用迭代等问题。
老外傻眼!明用英文提问,DeepSeek依然坚持中文思考
DeepSeek-V3.2和DeepSeek-V3.2-Speciale推理能力显著提升,海外研究者用英文提问,它却用中文思考。评论有两种观点,相关论文显示中文省token但非最有效,大模型选思考语言并非只看效率。
多智能体自主规划模式性能提升:五大精准策略详解
本文基于多智能体React模式实践,剖析自主规划架构挑战,如工具调用延迟等。提出五大优化策略,像用流式XML替代FunctionCall、合理压缩上下文等,还介绍创意加速器AI绘画创作功能,为多智能体规划模式提供借鉴。