「架构技术」共找到 4220 篇相关文章
Mini-SGLang，30万行代码浓缩为5000行，大模型推理高性能教学与研究模版
SGLang发布Mini-SGLang，将30万行代码缩至5000行，保留核心特性，为大模型推理提供高性能教学与研究模版，解决教育门槛高和科研原型开发难的痛点，还经测试验证了性能。
高通新款云端芯片公开！借推理抢英伟达蛋糕，市值一夜暴涨197.4亿美元
高通宣布推出AI200和AI250两款全新AI芯片进军数据中心市场，消息使股价一度飙升超20%。新品聚焦推理阶段，主打低TCO、高能效与强内存处理能力，还推进端到端软件栈。高通早有布局，已获订单。
京东AI一揽子开源！超多核心项目全开源，GitHub万star项目也有新进展了
京东系统性开源系列AI能力，从大模型到Agent等。JoyAgent 3.0升级，开源DataAgent和DCP模块；OxyGent多智能体框架让开发者自由组合。还有京医千询2.0等，意在推动AI在各行业落地。
LennyBot背后：一个价值1600万美元的"高级FAQ"
著名播客主Lenny Rachitsky推出LennyBot，可就其节目内容聊天并导流，背后公司Delphi获红杉1600万美元A轮融资。作者体验后认为它是高级FAQ，分析Delphi商业模式，指出赛道类似千播大战，红杉赌的是时间窗口。
AISPM与AI防火墙--是产品不同，还是名字不同？
文章探讨AISPM与AI防火墙是产品不同还是名字不同。介绍xSPM概念及AISPM定义，分析国内AI防火墙应对威胁能力，指出AISPM更强调过程管理，未来AISPM对维护AI安全至关重要。
首个Data Agent基准测试来了！2007个测试任务将数据库、PDF、视频、音频异构数据源一网打尽
南洋理工大学、新加坡国立大学与华为开源首个针对数据智能体异构混合数据分析的基准测试FDABench。它有2007个任务，覆盖多领域多数据源，独创协作框架，能测多种工作流模式的数据智能体。
奥特曼给ChatGPT空降高管，11亿美元收购独角兽创始人加入OpenAI…这剧情好熟悉啊
OpenAI将以11亿美元全股票收购Statsig，原高管加入负责ChatGPT等产品线。同时内部重大人事调整，重心转向应用程序，成立独立组织负责开发运营，还加强ToB业务拓展。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
不看后悔！GitHub 开源 MultiTalk .8k star 强大的人语音＋图像绑定项目
MultiTalk 是 MeiGen‑AI 开发的开源框架，可从音频、图片和提示语生成多人对话视频。它解决传统视频制作痛点，功能亮点多，技术优势明显，应用场景广，与同类项目对比表现突出。
ChatGPT 为什么越来越“懂你”？一文解析它背后的记忆机制
今年4月，OpenAI对ChatGPT记忆系统重磅升级，可参考过往对话提供个性化响应。软件工程师Eric Hayes拆解其双重记忆架构，推测实现机制，探索对用户体验的重塑。