搜索：小模型推理能力

「小模型推理能力」共找到 9427 篇相关文章

大型语言模型正在掏空和填满你的钱包

人工智能改变赚钱和花钱方式，生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用，如客服降成本、内容创作提效率等，企业应积极拥抱技术革命。

文章指出AI发展将推动私有知识价值增大，其应用成战略重点。如DeepSeek打破行业固有观念，引领变革。未来智能时代经济源于智能体，AI重构企业生产力，2025CSDI峰会将探讨相关场景应用。

绩效考核季，不少管理者用 ChatGPT 生成绩效评语，认为高效。但文章指出，把关键管理工作交 AI 是‘职业肌肉’萎缩，还给出管理场景下 AI 使用清单，网友也对 AI 辅助绩效评估展开热议。

文章指出在AI前沿，不少定义方向的人出身物理。物理训练赋予的品味与做AI的方法论高度重合，体现在统计力学与神经网络、对普适规律的信仰等方面，还提到Scaling Laws最能体现这种品味。

作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

文章围绕AGI展开，介绍AGI路线图第二阶段“游戏即训练”，指出游戏是训练agent的理想环境；还提及Dreamer系列研究进展。同时涵盖本周市场动态、多家公司AI动态及ETF复制指数的方法、优劣和影响。

吴恩达发文剖析GenAI应用工程师这一新兴职业。指出其技能要求与传统软件工程师不同，强调掌握多种AI积木块、利用AI辅助编程工具的重要性，还提及产品技能是加分项，并给出面试关键问题。

全球云数据库巨头Snowflake宣布收购Crunchy Data，发布新型Postgres数据库Snowflake Postgres，满足企业级AI和事务系统需求，具有安全合规等特点，有三大特色功能，推动其成为企业数据负载目的地。

今天凌晨1点30，OpenAI宣布开放GPT - 4.1，可在ChatGPT中使用。它针对编码任务，支持100万tokens上下文，在多项测试中表现优于前代，价格更优，不同用户将陆续获得使用权限。

文章类比 Chrome 的 Life of a Pixel，追踪 LLM 里 token 从输入到输出的全程。以 GPT - 2 Small 为例，详细讲解其管线各阶段，如 Tokenization、Embedding 等，还介绍了残差流、KV Cache 等概念及 GPU 性能瓶颈和优化方法。