「LLM」共找到 969 篇相关文章
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
Claude 现在能直接操作你的 iPhone 了，无需越狱
LLM操作手机以往方案有局限，phone - harness利用macOS Sequoia的iPhone镜像功能，通过截取镜像窗口、注入操作、截屏验证实现Claude操作iPhone，还介绍安装步骤、踩坑及已知限制。
推出 AnyLanguageModel：在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具，但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel，是 Swift 包，可替代 Apple Foundation Models 框架，支持多模型服务商，降低使用 LLM 难度。
集GraphRAG 和 DeepSearch于一体的智能问答系统graph-rag-agent
本项目结合GraphRAG与私域Deep Search，实现可解释、可推理的智能问答系统。亮点有从零复现GraphRAG、创新融合DeepSearch等，具备多模块功能，还有简单演示，地址https://github.com/1517005260/graph-rag-agent/blob/master/readme.md。
扒开1604份招聘，DeepSeek们最狠的大招藏在招人里
Epoch AI调查6家中国AI公司1604个岗位，发现中国AI公司用人不重资历重能力，岗位集中在北京、杭州、上海，不同公司有不同业务侧重和发展方向，招聘启事暴露其战略布局。
《动手写AI Agent》上下文工程：比 Prompt Engineering 更重要的事
文章围绕AI Agent的上下文工程展开，指出其比Prompt Engineering更重要。介绍了上下文工程的分层组织，包括角色定义、通用规则、项目状态和用户指令，还提及项目感知、.ling.md文件及完整System Prompt的组装。
拒绝计算“一视同仁”！Elastic Attention：让大模型学会“看人下菜碟”
现代大语言模型用全注意力机制计算复杂度高，现有混合注意力策略是静态的。为此提出Elastic Attention，引入轻量级Attention Router，具备动态路由等亮点，在主流模型测试中效果好。
短视频刷多了AI也会变蠢！“年度最令人不安的论文”
最新研究显示，大模型灌多垃圾内容会‘脑损伤’，研究人员用不同维度定义垃圾数据并训练模型，测试其核心能力，发现垃圾数据致认知下降，且损伤不可逆，还给出行业启发。
65岁图灵巨头离职创业！LeCun愤然与小扎决裂，Meta巨震
FT爆料，65岁Meta首席AI科学家LeCun将在未来几个月离职创业，推进「世界模型」研究。他任职12年，因与小扎战略分歧而决裂，此前MetaAI业务改革，战略重心转移，FAIR被边缘化。
比 Context7 更靠谱：Exa-code 靠 1B+ GitHub 与 Stack Overflow 减少幻觉
Exa团队索引超1B+文档、GitHub仓库等内容，exa - code对其混合搜索、分块处理。它是首个为编码代理制作的Web规模上下文工具，在代码幻觉评估中表现超流行网页搜索工具，核心技术有专为AI的搜索引擎和高效返回上下文。