「系统架构能力」共找到 5857 篇相关文章
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
DeepSeek V4还能更省！新工具缓存命中率高达99.82%，2折稳定到手
DeepSeek V4系列发布1个月，官方永久降价，开源社区的Reasonix项目将缓存命中率干到99.82%，能大幅降低成本。它专为DeepSeek打造，实现思路基于其缓存机制，安装使用简单。
深度｜Karpathy为何突然加入Anthropic，只能当Dario的「-2」？
5月19日，OpenAI联合创始人Andrej Karpathy宣布加入Anthropic预训练团队。他将组建新团队，用Claude加速预训练研究。文章分析了他加入的原因，以及Anthropic招聘他的动机，还指出这一变动标记着技术拐点。
DeepSeek开招Harness产品经理！「参与Agent桌面端产品全过程」
DeepSeek热招Agent Harness产品经理，旨在将前沿模型能力转化为领先Agent产品。招聘详情明确职责与任职要求，释放模型和产品两手抓信号，且其融资后有商业化承诺，将加速发展。
快手电商磁力金牛正在验证一件事：AI能不能真正帮商家赚钱？｜甲子光年
电商广告投放正发生底层迁移，越来越专业化。快手电商磁力金牛用AI接管投放决策，其AI一键推广和全链路AI操作系统降低了中小商家门槛，提升投放效率，预示电商广告平台竞争将转向‘谁的AI更懂生意’。
拒掉字节、谷歌橄榄枝，Meta 离职大佬田渊栋官宣自立门户！苏妈老黄追着投
Meta离职大佬田渊栋官宣创业，新公司Recursive Superintelligence首轮融资6.5亿美元，估值46.5亿美元。其团队堪称“硅谷AI梦之队”，想让AI具备“自我进化能力”，目标是扩展到多领域。
OpenAI 狂砸40亿美刀下场抢FDE，软件工程师的尽头原来是驻场啊
当地时间5月11日，OpenAI宣布成立OpenAI部署公司，初始投资超40亿美元，收购Tomoro引入现场部署工程师。这是战略转向，因企业更看重AI落地能力。如今AI竞争转向应用落地，部署工程师成香饽饽。
万帧照片级仿真，打通视觉机器人学习的感知与物理鸿沟：国产仿真器GS-Playground入选RSS 2026
清华大学等联合提出高通量视觉高保真仿真器GS - Playground，被RSS 2026录用。它解决现有仿真器渲染开销高、资产制作依赖人工、Sim2Real迁移鸿沟大等问题，是全栈重新设计的仿真基础设施。
英伟达力荐，小团队两个月开源一款「光速级」智能体推理引擎
智能体时代算力需求庞大，LightSeek Foundation 小团队 2 个月打造大模型推理引擎 TokenSpeed，有 TensorRT LLM 性能、vLLM 易用性，受英伟达力荐且已开源，为智能体负载提供近「光速级」推理能力。
Harness Engineering：耗时一周，我是如何将应用的AI Coding率提升至90%的
文章结合Anthropic、OpenAI方法论与项目实践，分享为存量Java应用构建Harness体系，将AI代码率从不到25%提至90%的方法。介绍Harness概念、现状挑战、实战步骤、关键经验及效果，还对其未来发展做了展望。