「量化技术」共找到 3041 篇相关文章
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
我把Claude变成了带记忆的人生教练，结果它比我还了解我自己｜人生教练 Agent v2.1
作者将Claude打造成带记忆的人生教练，记忆功能让教练能回顾过往对话。其技术栈不复杂，相比传统教练优势明显。虽有缺乏情感共鸣等局限，但能发现认知盲区，未来有改进空间。
多家芯片公司业绩飙涨，这个赛道彻底火了？
近期多家A股芯片公司Q3财报亮眼，受益于端侧AI推进。端侧AI优势多，吸引科技巨头布局，但落地有挑战。技术进步使大模型轻量化，手机与AI眼镜较热。其发展面临应用、技术、生态等问题，也有隐私保护方案。
小扎万字檄文炮轰硅谷，Meta重磅开源30B小钢炮！一台MacBook就能跑
Meta发布全新30B大模型Muse Glimmer并开源，用4-bit量化等技术让其能在本地设备运行，有五大核心超能力且采用Apache 2.0协议。同时，Meta CEO小扎发表万字檄文暗讽OpenAI等，抨击AI末日论等观点。
为什么说多模态是推荐系统破局的关键？来自饿了么一线的实战复盘
文章围绕多模态推荐展开，从传统推荐算法演进到多模态表征技术，结合饿了么场景实践，还探索生成式推荐。介绍多模态推荐挑战与代表性工作，梳理表征技术发展，详述饿了么系统设计与训练，分析生成式推荐方案及业界路线。
精准复刻！字节推出X-UniMotion实现高精度动作模仿合成
字节推出的X-UniMotion代表角色动画技术突破，提供统一运动控制系统，融合先进算法与操作界面，构建强大技术架构，能生成自然流畅角色动作，还介绍了其技术原理、演示对比等内容。
前阿里P10毕玄的一张聊天截图竟然火了。
AI Coding发展迅猛，前阿里P10毕玄所在公司决定将技术岗位统一为Agent工程师，不再按技术栈划分。以前按技术栈分工模式合理，但现在程序员需适应变化，不然会被边缘化。
《AI时代下，中国低/零代码市场发展研究》报告正式发布 | LowCode低码时代
《AI时代下，中国低/零代码市场发展研究》报告发布，指出低/零代码技术渗透率提升，主流厂商提供全链路方案。生成式AI与低/零代码融合成趋势，市场稳定增长，企业对平台综合能力要求提高。
Macaron 新版本拆解：三个信号，看懂 Personal AI 的进化路径
Macaron新版本技术视频技术浓度超预期，结尾藏产品更新彩蛋。此次更新社交功能、Daily Spark、记忆打通等背后，藏着Personal AI关键变化，其团队Mind Lab有技术突破，开源方案获高认可。
大模型到底是怎么「思考」的？第一篇系统性综述SAE的文章来了
在大语言模型时代，人们需要“能解释”的LLM。SAE技术崛起，作者团队发布首篇SAE综述，梳理其技术、演化和挑战。介绍了SAE概念、优势，涵盖其技术框架、可解释性分析等多方面内容。