「端侧优化」共找到 1328 篇相关文章
LLM 技术在有道词典笔上的应用实践
本文围绕LLM技术在有道词典笔的应用展开。先分析端侧大模型落地挑战，如算力、功耗等。介绍有道词典笔等硬件及应用，对比端侧与云侧AI优劣。还阐述模型落地模式、算法优化及“子曰3数学模型”开源情况。
ASO应用商店优化原理和操作流程，ASO推广优化主要方式？（进阶篇一）
ASO进阶篇第一章：ASO的目标，ASO的原理和流程，ASO优化的主要方式。
三星研究院发布手机端侧大模型MeKi：基于Memory的LLM扩展新范式，支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi，提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力，实现容量与性能提升。实验显示其性能、效率表现优，为边缘部署LLM提供新思路。
自动驾驶优化：从复杂性到实时工程
本文深入探讨自动驾驶技术栈端到端架构，阐释从上下文感知传感器融合到MPC求解器等优化技术，如何将原始传感器数据转化为安全控制指令，还介绍轨迹规划、实时计算预算及调试等内容。
不得不说你的GEO优化的很好
白杨SEO结合自身经验，分享AI搜索优化GEO推广相关问题。包括第一步要确认业务、分析现状找真实需求；介绍确定精准意图词的方法；还阐述GEO与SEO关系及推广效果和转化挂钩的办法。
用子模优化法为DeepResearch生成多样性查询
开发DeepResearch时，生成多样化查询是关键。多数开源项目处理方法粗放，本文提出结合句向量与子模优化的方法，设计子模目标函数，给出代码实现，实验显示该方法生成的查询组合多样性更高。
迈向可信AI：LLM幻觉的分析与优化
随着LLM广泛应用，其幻觉现象成AI落地关键挑战。文章分析LLM幻觉成因、优缺点，结合RAG、SFT、强化学习等技术，提出多维度优化方案，为构建可信大模型应用提供理论与实践路径。
OpenAI 发布了个 ChatGPT 优化计划，不是GPT-5
OpenAI未发布GPT - 5，而是推出ChatGPT「健康使用」优化计划，旨在助用户成长而非让人上瘾，措施包括休息提醒、改进生活建议功能等，还与专家合作改进响应方式。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
斯坦福：优化器「诸神之战」？AdamW 凭「稳定」胜出
斯坦福大学 Percy Liang 团队研究指出，虽有不少声称能显著加速的优化器替代方案，AdamW 仍为预训练稳健首选，但矩阵型方法在特定数据–模型比例下优势明显。研究还揭示了现有研究的方法论缺陷。