「成本性能平衡」共找到 3298 篇相关文章
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
谷歌发布本地具身智能模型！全程无联网执行精细操作，从人形机器人到工业机器人全覆盖
Google DeepMind团队发布可本地运行的视觉 - 语言 - 动作模型Gemini Robotics On - Device，它能离线运行，操作能力强，可在多种机器人本体部署，解决网络问题，性能、适应能力出色，还开放了SDK。
92% 工程师都在用 AI 后，Uber 开始给 AI “限额”了
Uber的‘零增长技术栈’解耦容量与业务需求，优化Go运行时性能。还将生成式AI集成开发，92%工程师在用，但成本压力大。为此，Uber限额每位开发者，审查代码效果，完善评估指标。
哈佛新研究：过度使用AI会“烧脑”，14%用户出现认知过载
哈佛研究证实过度使用AI会“烧脑”，是认知降维打击下的压力过载。调查显示14%用户出现认知过载症状，AI工具过多还会增加认知切换成本。研究指出企业需重新设计工作方式，实现人机平衡。
8秒极速生成！复杂场景图像定制低成本轻松驾驭，已开源丨字节北大联合发布
字节跳动与北大联合推出支持多条件组合的统一图像定制化生成框架DreamO，能实现主体、身份等多样化定制。与商业大模型比，它开源、成本低、速度快，8 - 10秒可完成图片定制。
半年研发、1周上线，1秒200行代码爆发？美团研发负责人：靠小团队奇袭，模型和工程能力突破是核心
美团基础研发平台工程效率负责人程大同在访谈中解答了美团 AI Coding Agent 产品 NoCode 的相关问题，包括模型性能优化、产品定位、用户画像、使用边界等，还谈及与 CatPaw 的关系及未来规划。
GPT-6 真要来了！OpenAI全新推理架构“循环深度”首次曝光：可榨出14倍参数潜能
OpenAI将推旗舰模型GPT - 6（内部代号Astra），采用“循环深度”新技术，能榨出14倍参数潜能，降低成本，但会使AI推理过程不可读，加重安全担忧。OpenAI已因该模型“能力过强”踩刹车。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
紫东太初推出GMC核心集剪枝方法，少80%Token仍满血保真多模态能力
视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。