「代码分析」共找到 2644 篇相关文章
五倍推理加速，激发自回归潜能，苹果新工作让LLM预测未来
近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
圣路易斯联邦储备银行报告：美国大量人口已使用生成式AI
圣路易斯联邦储备银行报告显示，截至2024年末，美国18至64岁近40%人口用生成式AI，职场23%劳动者每周至少用一次。还对比其与PC、互联网普及情况，分析使用差异及对经济的生产力提升。
当你感到AI编程无所不能时，也许正站在“愚昧之巅”——理性看待AI时代的软件开发与应用变革
文章分析AI时代软件开发、产品设计和内容营销的变化。赞同产品设计半开放式、加速MVP效率等；部分赞同VOC捕捉、SEO自动化等，但有待验证；不认同普通开发者被淘汰等过于乐观的预测。指出多数变化5年渐显。
如何让 AI 成为你的编程搭档？一次真实重构告诉你答案
文章介绍编程工具Cursor，它是基于VS Code、深度集成AI的智能代码编辑器，有多种模式，能力强但有局限。作者分享用其完成重构需求的过程、经验，还提及使用中踩坑及应对方案，最后总结提效成果。
【博客转载】NVIDIA Docker CUDA Compatibility /Nsight Compute In Docker
本文围绕NVIDIA Docker CUDA兼容性及Nsight Compute展开。指出使用NVIDIA NGC CUDA Docker容器时，要保证宿主机CUDA驱动与容器内运行时库版本一致，否则会有问题。还介绍了在Docker中安装和使用Nsight Compute的方法及示例。
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。
Vector数据库退位，AI记忆Memvid登场！
近期基于视频的AI记忆库Memvid大火，宣称革新AI记忆管理，能将文本片段存于MP4实现快速语义搜索。不过网友分析，它底层用FAISS，读写慢、文件大，仓库issues也显示其性能与声称相反。
面向多工具任务调度的两种路径：MCP vs Agent + Function call
本文围绕大语言模型智能应用中的工具与数据接入问题，介绍了基于 Agent + Function Call 的动态调度机制与基于 MCP 的标准化接入框架，分析了不同场景下的适用性，还探讨了二者未来的协同融合方向。
Spring AI 实战｜Spring AI入门之DeepSeek调用
文章介绍Spring AI框架，它简化企业数据或API服务与大模型集成，降低开发复杂度。还给出调用DeepSeek的实战步骤，包括手动请求、代码自动发起、实现流式响应等，也提及OpenAI starter的兼容性及生产环境监控。