「小模型性能」共找到 8886 篇相关文章
几毛钱的芯片，利润直追英伟达
苹果曾被小小基带芯片困扰，芯片世界里有很多单价低、工艺要求不高的“小玩意”，但其利润却直追英伟达。如英飞凌、博通，它们靠“人脉”和网络效应赚钱，且所在领域不卷，抱着铁饭碗。
中学生就能看懂：从零开始理解LLM内部原理【八】｜ 什么是残差连接？
本系列是对长篇文章《Understanding LLMs from Scratch Using Middle School Math》的解读笔记。本篇介绍残差连接，指出传统多层模型有网络退化和梯度传导困难问题，而残差连接能缓解，还说明了其工作原理和可行性。
你敢把「龙虾」放在手机上跑吗？手机 Agent 离落地还差一道「隐私关」
港中深联合腾讯混元研究揭示，手机 Agent 落地关键不在成功率，而在隐私边界。研究设计隐私交互协议，构建模拟 App 记录过程，将常见越界行为归类检查，评估多个模型发现诸多隐私问题。
为什么95%的智能体都部署失败了？这个圆桌讨论出了一些常见陷阱
硅谷圆桌论坛指出，95%的AI智能体部署失败，原因并非模型不智能，而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题，给出创业者需思考的问题。
实测最新开源的DeepSeek-OCR后，我有些不一样的看法，有些话可能只有我敢说
实测最新开源的DeepSeek - OCR，它并非传统OCR，不适用于传统场景。其最大意义是解决大模型上下文长度问题，通过文字图片压缩解压提高处理速度。模型功能多样，是让AI看图思考的新思路。
孙凝晖院士：集成芯片带来三大科学问题
随着摩尔定律发展放缓，集成芯片与芯粒技术对高性能芯片设计制造愈发重要。孙凝晖院士在2025年度晶上系统生态大会指出，集成芯片是提升性能新路径，但芯粒集成度提升带来三大科学问题。
AI Agent的未来之争：任务规划，该由人主导还是AI自主？——阿里云RDS AI助手的最佳实践
文章以阿里云RDS AI助手实践为例，探讨AI Agent任务规划该由人主导还是AI自主。实测发现大模型自主规划效果不佳，企业更需稳定可靠，人工规划是最佳选择，还提出用‘混合规划’兼顾灵活与可靠。
【博客转载】CUDA Reduction
文章来自Lei Mao，介绍CUDA归约操作。先阐述归约操作在并行计算中的常见性，接着实现两个批量归约求和kernel，还给出构建和运行示例的命令及结果。最后探讨大数组归约求和的方法及性能影响。
蚂蚁百灵新一代Ling-3.0开源，智效比13.2，124B释放1T能力
蚂蚁百灵新一代模型Ling-3.0开源，有flash和tiny两版本。Ling-3.0-flash参数量124B，智效比13.2，输出快成本低；Ling-3.0-tiny参数量7.9B，激活少且适用多场景，二者都极致挖掘模型效率。
不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」
5月25日，面壁开源端侧文本基座大模型MiniCPM5 - 1B，主打低成本部署等。它由AI编写的ForgeTrain框架参与预训练，效果与英伟达Megatron对齐且速度快10%。该模型在榜单表现优，应用边界广，部署门槛低。