万字长文！大模型LLM推理优化技术总结

文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。

别只做skill了，都去做插件吧

Claude Code的插件系统上线，解决了配置难分享、版本化和审核的问题。它将已有能力标准化，介绍了插件与独立配置选择、上手步骤、可装内容、测试方法、提交市场及从独立配置迁移等内容，还提及其他软件推插件市场。

SK 海力士，市值突破4000亿美元

1月27日，SK海力士股价创新高，市值达4031亿美元，三年涨10倍。因AI基建投资扩张，内存芯片供应紧缺。传其为微软供芯，韩媒称它和三星提高LPDDR内存价，或影响iPhone 18价，还将发高额奖金。

中际旭创的高增长，还能持续多久？

今年夏季光模块龙头中际旭创市场表现强劲，市值逼近4600亿，但控股股东计划减持。此前也有股东减持，市场曾争论其估值合理性。要实现250亿利润目标，受北美大厂算力支出、竞争、CPO进展等因素影响。

是剧本杀来了？还是儿童剧本杀教育机会来了！

儿童剧本杀教育的兴起，不仅为孩子们提供了一种新颖的娱乐方式，也带来了教育的新机遇。它通过沉浸式体验，让孩子们在玩耍中学习历史，培养兴趣，同时满足了市场对创新教育内容的需求。

粉象生活直播万亿市场

存储市场为何“超”了又“超”？

近日，闪迪宣布调涨NAND闪存合约价，三星等巨头财报业绩超预期。摩根士丹利预计存储行业将迎‘超级周期’。存储芯片全品类产品齐涨，终端与资本共振。本轮涨价因AI需求爆发与产能重构，未来市场前景好但有不确定性。

Claude code：下一个千亿级软件市场的蓝图

LATE CHECKOUT CEO认为Claude Code将带来软件行业变革，它驯服终端，让自然交互成趋势，会催生新机遇和超级用户，未来软件易用性价值更高，技术将适应人类语言。

The Batch：835 | 图表中的 AI 市场趋势

知名投资分析师 Mary Meeker 时隔六年发布 340 页 AI 市场报告。报告指出 AI 变革快、性能攀升、有新兴能力，还会影响劳动力等，同时也带来经济不确定性，当下是开发软件应用的黄金时期。

争夺 Agent 市场，微软的押宝点竟是「情商」？

微软AI CEO Mustafa Suleyman接受访谈，分享AI未来见解，探讨情商重要性等问题。他推动AI从功能向人性化发展，认为AI是伴侣非仅工具，强调情感连接，还提及Copilot靠情商打差异化等。