「内存管理」共找到 717 篇相关文章
当每个人都能指挥一支 AI 大军,什么能力最重要?
文章指出,在AI Agent增多的时代,管理能力是驾驭它们的关键。沃顿商学院教授提出判断是否委派任务给AI的公式,还建议从更好的指令、评估、反馈三方面提高成功率,同时给出委托任务和锻炼管理能力的方法。
十年来Python生态最好工具,引爆全社区的uv到底是什么?
uv是用Rust写的Python包和项目管理工具,被天文学家Emily L. Hunt博士赞为近十年Python生态最好的事。它功能强大,能替代多个工具,速度快,兼容性强,安装简单,还能轻松管理项目。
万字长文!大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开,先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求,再阐述模型并行、注意力机制优化、模型优化和模型服务等技术,如Pipeline并行、MQA、量化、动态批处理等。
SK 海力士,市值突破4000亿美元
1月27日,SK海力士股价创新高,市值达4031亿美元,三年涨10倍。因AI基建投资扩张,内存芯片供应紧缺。传其为微软供芯,韩媒称它和三星提高LPDDR内存价,或影响iPhone 18价,还将发高额奖金。
YC 开源自家 Harness,3 天斩获 3.9k Star,QM 如何划清 Agent 的权限边界
YC开源的QM项目上线3天获3.9k GitHub Star,定位企业级Agent Harness,解决AI规模化落地管理难题。它补齐企业团队刚需能力,设计贴合企业规则,解决隔离与协作、权限管理问题,顺应行业从拼模型到搭骨架的转变。
如何管理和调度Dify工作流?
文章介绍Dify这一开源大模型应用开发平台,指出其工作流存在无定时调度和监控报警、执行记录过多致性能差等痛点。给出Dify Schedule和XXL - JOB两种集成Dify工作流方案,并分析各自优缺点。
内存涨价,千元机的天塌了
去年下半年起存储芯片涨价,因AI基础设施需求爆发,三大存储芯片厂产能被榨干。消费级产品供应受挤压,中低端手机成最大受害者,各厂商搁置低价产品线,中低端市场持续萎缩。
内存涨势超黄金,带飞1400亿存储巨头
9月起存储芯片价格疯涨,国内“存储一哥”兆易创新第三季度净利润暴增61%,市值超1400亿。其创始人朱一明布局20年,使公司完成“三级跳”。不过,行业有周期性,兆易创新需应对挑战。
内存涨价赛过黄金,这些存储公司业绩、股价两开花
近期存储价格年内持续飙涨,幅度超黄金。DDR4现货价较年初暴涨200%,部分经销商溢价出售。存储产品涨价源于AI应用扩张,供不应求热潮蔓延至封测端。多家存储公司业绩和股价两开花。
一种用于管理 AI 变革步伐的演进式架构模式
Cloudflare推出基于QuePaxa共识算法的Meerkat服务,可无领导者写入并保持强一致性,提高网络可用性。它预计将是QuePaxa全球首次生产部署,但存在局限性,如大量往返通信。