设备管理」共找到 730 篇相关文章

产品应用8

Kubernetes环境中作业帮大模型服务流量调度优化实践

随着大语言模型应用渐广,Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案,整合成模型网关,具备五项核心功能,提升了资源效率、稳定性和易用性。

InfoQ
产品应用8

中国电信天翼AI发布首款AI眼镜,星辰大模型开启第一视角智能交互新时代

在2025世界人工智能大会上,中国电信天翼AI发布全球首款融合自研“星辰大模型”的智能穿戴设备——天翼AI智能眼镜,依托云网融合与星辰大模型,开创第一视角智能交互新范式。

AI科技评论
新闻资讯7

65亿「偷」来一个耳塞?OpenAI首款硬件被曝抄袭,苹果天才设计师翻车

OpenAI斥资65亿美元收购Jony Ive的AI设备初创io,却被谷歌X孵化公司IYO起诉抄袭。IYO称其产品和名字均被剽窃,此前OpenAI曾拒绝合作,却私下获取IYO技术方案。

新智元
开源动态8

10% KV Cache实现无损数学推理!这个开源方法解决推理大模型「记忆过载」难题

推理大模型推理时易现冗余问题,R-KV开源方法登场,显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余,还经多步骤压缩KV缓存,性能测试表现出色,适用多场景。

量子位
新闻资讯7

GitLab 18.0 发布,引入 AI 编码助手

GitLab发布自托管DevSecOps平台18.0版本,为Premium和Ultimate档引入更多AI功能,如代码建议、智能聊天、自动代码分析等,还在性能、安全、管理等方面有改进,部分用户升级遇问题。

InfoQ
开源动态8

轻量级语音模型Vui开源,支持本地部署,笑声停顿全拟真,4万小时练出人类对话感!

近日,Fluxions - AI团队在GitHub开源轻量级语音模型Vui,可设备端运行。它能精准模拟语气词、笑声等,有三款模型,适用于语音助手、播客生成等场景,解决了传统模型的痛点。

开源星探
开源动态8

本周推荐的6个超级6的Github开源项目!

本文推荐6个Github开源项目。有Git效率神器Lazygit、美团前端日志系统Logan、解密工具Ciphey等,各项目功能强大,如Lazygit操作便捷,Logan可助定位端上问题,Ciphey能一键解密。

开源先锋
新闻资讯8

红杉AI峰会闭门6小时,150位创始人共识浮现:AI不再卖工具,而是卖收益

第三届红杉资本AI峰会落幕,150位全球顶尖AI创始人齐聚。会议指出AI正从卖工具转向卖收益,还探讨了操作系统之战、智能体经济等话题,给出面向未来三年的定位图等,提醒从业者转变观念。

Founder Park
新闻资讯7

Anthropic 技术栈里的「五宗罪」由何而来?

Anthropic的Claude模型升级后,用户却觉得不好用。X上帖子指出其存在文本和代码标记、模型能力、定价、长上下文等问题,这些问题卡在生成、计算、上下文和Agent运行时的5个具体位置,导致各方面互相拖后腿。

AI科技评论
开源动态8

深度拆解 Muse Glimmer,24GB 显存跑 30B Agent,Meta 到底做了什么?

昨天,Meta发布约30B参数的多模态Agent模型Muse Glimmer,支持128K级上下文。它采用Apache 2.0许可证开放,有量化版本等。其技术设计围绕显存、上下文管理等问题展开,在多方面做了取舍。

AI科技评论