「设备管理」共找到 730 篇相关文章
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广,Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案,整合成模型网关,具备五项核心功能,提升了资源效率、稳定性和易用性。
中国电信天翼AI发布首款AI眼镜,星辰大模型开启第一视角智能交互新时代
在2025世界人工智能大会上,中国电信天翼AI发布全球首款融合自研“星辰大模型”的智能穿戴设备——天翼AI智能眼镜,依托云网融合与星辰大模型,开创第一视角智能交互新范式。
65亿「偷」来一个耳塞?OpenAI首款硬件被曝抄袭,苹果天才设计师翻车
OpenAI斥资65亿美元收购Jony Ive的AI设备初创io,却被谷歌X孵化公司IYO起诉抄袭。IYO称其产品和名字均被剽窃,此前OpenAI曾拒绝合作,却私下获取IYO技术方案。
10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。
GitLab 18.0 发布,引入 AI 编码助手
GitLab发布自托管DevSecOps平台18.0版本,为Premium和Ultimate档引入更多AI功能,如代码建议、智能聊天、自动代码分析等,还在性能、安全、管理等方面有改进,部分用户升级遇问题。
轻量级语音模型Vui开源,支持本地部署,笑声停顿全拟真,4万小时练出人类对话感!
近日,Fluxions - AI团队在GitHub开源轻量级语音模型Vui,可设备端运行。它能精准模拟语气词、笑声等,有三款模型,适用于语音助手、播客生成等场景,解决了传统模型的痛点。
本周推荐的6个超级6的Github开源项目!
本文推荐6个Github开源项目。有Git效率神器Lazygit、美团前端日志系统Logan、解密工具Ciphey等,各项目功能强大,如Lazygit操作便捷,Logan可助定位端上问题,Ciphey能一键解密。
红杉AI峰会闭门6小时,150位创始人共识浮现:AI不再卖工具,而是卖收益
第三届红杉资本AI峰会落幕,150位全球顶尖AI创始人齐聚。会议指出AI正从卖工具转向卖收益,还探讨了操作系统之战、智能体经济等话题,给出面向未来三年的定位图等,提醒从业者转变观念。
Anthropic 技术栈里的「五宗罪」由何而来?
Anthropic的Claude模型升级后,用户却觉得不好用。X上帖子指出其存在文本和代码标记、模型能力、定价、长上下文等问题,这些问题卡在生成、计算、上下文和Agent运行时的5个具体位置,导致各方面互相拖后腿。
深度拆解 Muse Glimmer,24GB 显存跑 30B Agent,Meta 到底做了什么?
昨天,Meta发布约30B参数的多模态Agent模型Muse Glimmer,支持128K级上下文。它采用Apache 2.0许可证开放,有量化版本等。其技术设计围绕显存、上下文管理等问题展开,在多方面做了取舍。