高性能框架」共找到 4549 篇相关文章

产品应用8

腾讯音乐如何基于 AutoMQ 降低 Kafka 50%+ 成本

腾讯音乐旗下产品产生海量数据,传统自建 Kafka 集群运维复杂、成本。为此,运维团队选 AutoMQ,将成本降超 50%,提升扩缩容效率,降低运维负担,本文分享其经验。

InfoQ
新闻资讯7

突发,普林斯顿CS博士后猝然离世!清华本科毕业,刚完成论文答辩

普林斯顿大学电气与计算机工程系博士后Haoran Li于9月25日离世,校方强调心理与牧灵支持。科研群体光环背后是压力与孤独,海外校有相关支持举措,国内则需完善机制。

新智元
算法论文8

普林斯顿发现RLHF显著加剧了LLM胡扯!

普林斯顿研究提出‘机器胡扯’概念,构建分析框架,含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯,政治语境模型爱‘打太极’,为构建诚实AI提供工具和理论。

深度学习自然语言处理
产品应用8

PD 分离推理的加速大招,百度智能云网络基础设施和通信组件的优化实践

为适应PD分离式推理部署架构,百度智能云从物理网络、网络流量、通信组件和算子层面优化,提升上层推理服务性能,展现了网络、组件与业务特征融合的重要性。

InfoQ
推荐文章7

李静海院士团队:未来数据系统的逻辑与架构 | Engineering

本文展望数据科学未来,强调其对AI重要性。探讨科学数据系统挑战,提出收集处理原则,指出要重视数据系统逻辑与架构研究,建立标准协议框架,促进AI健康发展。

力学与人工智能
产品应用7

Perplexity不仅没死,而且很强

文章对比通用AI搜索与Perplexity,指出通用AI搜索用于金融投资不够严谨准确,而Perplexity从专业金融API拉取数据,集成权威数据源,准确度。在此基础上推出的Perplexity Computer功能强大,是严肃工具。

newtype AI
算法论文8

大模型「越用越快」!SpeedupLLM首次验证,大降56%推理预算

Emory大学研究者提出SpeedupLLM框架,利用动态计算资源分配和记忆机制,使LLM处理相似任务时推理成本降56%、准确率提升,论文系统性验证了LLM“越用越快”,为AI模型发展提供新思路。

新智元
产品应用8

整整21个月,豆包大模型正式进入2.0时代!

时隔21个月,豆包大模型2.0正式推出。它在多模态理解、企业级Agent、推理和代码能力上有提升,在多个基准测评中达业界最优。实测显示其在编程、数学问题处理上性能出色,性价比也具优势。

量子位
开源动态8

最小模型仅 25MB,老设备无 GPU 也能流畅跑!

开源项目`KittenTTS`是文本转语音模型系列,核心特点是“小身材,大能量”。最小模型约1500万参数,体积25MB以内,无需GPU,靠CPU就能实现质量语音合成,适合多种设备和场景。

开源先锋
开源动态8

NeurIPS 25开新坑:145万个图文对,覆盖八种主流水下理解任务

华中科技大学团队推出首个水下多模态大模型NAUTILUS,支持8种水下场景理解任务,还开源145万图文对的NautData数据集。模型通过VFE模块解决水下图像问题,性能超越现有模型,恶劣环境表现更佳。

新智元