「前缀和计算」共找到 7315 篇相关文章
刚刚,Anthropic新CTO上任,与Meta、OpenAI的AI基础设施之争一触即发
Anthropic迎来新CTO Rahul Patil,他将负责计算、基础设施等工程任务。此时Anthropic面临与OpenAI、Meta的激烈基础设施竞争,Claude产品流行也带来压力,新CTO能否带来转变值得关注。
CUDA内核之神、全球最强GPU程序员?OpenAI的这位幕后大神是谁
AI圈聚光灯常聚焦明星人物,OpenAI一位工程师因编写关键CUDA Kernel引发关注,网友猜测是Scott Gray。他在Nervana开发maxas、maxDNN,加入OpenAI后开发块稀疏GPU内核并开源。
SGLang 确定性推理实现技术细节笔记
文章围绕SGLang确定性推理展开,介绍其启用方式,详述批次不变性原理与Batch Invariant Ops实现,如Matmul Persistent Kernel设计;还阐述确定性采样、Attention Backend配置、AllReduce改动等,给出环境变量及测试脚本,有完整解决方案。
开源|Python 应用往微服务迈进的 1*3 种 Pythonic 步伐
在微服务架构主流的当下,Java凭成熟生态占主导,Python开发者面临尴尬。为此开源了`nacos-serving-python`项目,介绍全新Python微服务解决方案,涵盖服务发现策略、三种自动注册方式等内容。
让RAG真正读懂“言外之意”!新框架引入词汇多样性,刷新多项基准SOTA
ACL 2025研究提出Lexical Diversity - aware RAG (DRAG) 框架,将词汇多样性引入RAG检索与生成,解决现有方法痛点。它有两大创新模块,实验在多基准提升准确率,还将在多模型上增益,代码即将开源。
30.9K Star牛啊!!再见了PD,不越狱也能装,支持几十种系统,苹果全设备通用!
在苹果生态运行其他系统,Parallels Desktop 收费且移动设备难装。开源工具 UTM 免费,基于 QEMU 构建,支持多架构和系统,操作界面简洁,外围设备支持强,苹果全设备通用。
宇树科技开源UnifoLM-WMA-0机器人模型,离通用机器人又进一步
宇树科技开源UnifoLM-WMA-0模型,用神经物理网络让机器人理解力学规律。它支持两种模式,融合多模态信息,架构精妙。经测试性能强,已真机部署。开源降低门槛,有望推动行业发展。
谷歌开源新Deep Research范式,教Agent学会真正的思考。
周末谷歌发博客讲Deep Research,它重新定义一些Agent常见范式。现在多数Agent模式缺全局观,谷歌让AI先打草稿再迭代修正。新框架含技巧,在多任务上超OpenAI,已可试用。
谷歌AI或摘千禧年大奖!华人博士破解百年数学难题,首次捕获奇点
谷歌DeepMind与顶尖机构合作发布重磅论文,用AI在三种流体方程中发现新型不稳定“奇点族”。借助“物理信息神经网络”,开创研究新范式,为数学等多领域带来突破,或攻克千禧年大奖难题。
从BM25到Multi-Vector:6种Embedding演进路线
文章介绍从BM25到Multi - Vector的6种Embedding演进路线,涵盖Sparse、Dense等类型,分析其痛点、效果、案例及选型建议,还给出不同场景的方案选择和步骤。