「小型LLM」共找到 991 篇相关文章
2025 WAIC落幕，深谋科技异军突起，以技术与落地破局具身智能赛道
2025 WAIC落幕，深谋科技作为精英合作伙伴首次亮相，未随波逐流，而是切入脑控、动态视觉伺服和康养场景三大底层能力领域，开拓创新赛道。其产品已商用部署，吸引众多媒体关注。
集GraphRAG 和 DeepSearch于一体的智能问答系统graph-rag-agent
本项目结合GraphRAG与私域Deep Search，实现可解释、可推理的智能问答系统。亮点有从零复现GraphRAG、创新融合DeepSearch等，具备多模块功能，还有简单演示，地址https://github.com/1517005260/graph-rag-agent/blob/master/readme.md。
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
Claude 现在能直接操作你的 iPhone 了，无需越狱
LLM操作手机以往方案有局限，phone - harness利用macOS Sequoia的iPhone镜像功能，通过截取镜像窗口、注入操作、截屏验证实现Claude操作iPhone，还介绍安装步骤、踩坑及已知限制。
扒开1604份招聘，DeepSeek们最狠的大招藏在招人里
Epoch AI调查6家中国AI公司1604个岗位，发现中国AI公司用人不重资历重能力，岗位集中在北京、杭州、上海，不同公司有不同业务侧重和发展方向，招聘启事暴露其战略布局。
《动手写AI Agent》上下文工程：比 Prompt Engineering 更重要的事
文章围绕AI Agent的上下文工程展开，指出其比Prompt Engineering更重要。介绍了上下文工程的分层组织，包括角色定义、通用规则、项目状态和用户指令，还提及项目感知、.ling.md文件及完整System Prompt的组装。
拒绝计算“一视同仁”！Elastic Attention：让大模型学会“看人下菜碟”
现代大语言模型用全注意力机制计算复杂度高，现有混合注意力策略是静态的。为此提出Elastic Attention，引入轻量级Attention Router，具备动态路由等亮点，在主流模型测试中效果好。
推出 AnyLanguageModel：在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具，但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel，是 Swift 包，可替代 Apple Foundation Models 框架，支持多模型服务商，降低使用 LLM 难度。
Mistral 3发布，14B多模态小模型表现优异
Mistral AI第三代模型发布，含三个小型密集模型和稀疏混合专家模型Mistral Large 3，全用Apache 2.0许可。有多项技术亮点，Ollama等支持部署微调，还给出实用配置建议。
短视频刷多了AI也会变蠢！“年度最令人不安的论文”
最新研究显示，大模型灌多垃圾内容会‘脑损伤’，研究人员用不同维度定义垃圾数据并训练模型，测试其核心能力，发现垃圾数据致认知下降，且损伤不可逆，还给出行业启发。