「数据性能」共找到 4088 篇相关文章
养虾人狂吃国产模型!4.19万亿Token调用量激增34.9%超越美国
根据OpenRouter数据,上周中国大模型周调用总量飙升至4.19万亿Token,再度超越美国登顶全球。中国产品在全球大模型调用量Top 5中占三席,国产大模型受青睐,但在速度和价格方面仍待提升。
顶会SOSP'25最佳论文,被一个国产自研操作系统拿下
国产自研开源操作系统星绽的学术论文获顶会SOSP'25最佳论文。它专注高可扩展内存管理研究,兼顾性能与安全。星绽由多单位联合研发,用Rust语言,解决传统系统难题,已有多篇论文被国际顶级学术会议录用。
vLLM 新特性:批量大小不再影响模型输出
vLLM 推出批量不变推理功能,解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致,技术实现含三部分,虽有性能开销但换来了结果确定性。
苹果M5「夜袭」高通英特尔!AI算力狂飙400%,Pro三剑客火速上新
苹果悄无声息更新官网,三款核心产品14寸MacBook Pro、iPad Pro以及Vision Pro换上全新M5芯片。M5芯片性能提升显著,AI能力连翻数倍,加量不加价,在AI、图形处理等多方面有重大升级。
CUDA-MODE第77课课程笔记:用于GPU kernels的DSL
该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态,涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式,对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目,并给出使用建议。
百度 TURA 三阶段架构:让 AI 检索 “动” 起来
现有检索增强生成(RAG)系统只能读取已索引的静态网页,无法满足用户实时数据需求。百度 TURA 架构用工具调用将 RAG 升级为动态交互,分检索、规划、执行三阶段,已在百度亿级流量场景跑通。
The Batch: 843 | Meta 的智能眼镜愈发清晰
Meta公布Aria第二代智能眼镜平台,其亮点在于增强现实等研究领域能力。该眼镜体积小、续航久,内置多传感器,能实时解读多方面信息。研究人员今年晚些时候可获设备,其数据或为多领域开辟新路径。
“多模态方法无法实现AGI”
文章指出一些人认为多模态方法能实现AGI,但作者觉得此策略会失败。真正的AGI要理解物理世界,而LLMs只是记忆规则。此外,规模最大化方法用于AGI有数据稀缺问题,多模态建模也存在诸多问题。
2K Star!颠覆PPT!这个560KB的HTML文件,把整个办公套件装进了一个文件里!
Bento是开源项目,把文档、编辑器等全打包进约560KB HTML文件,功能堪比PowerPoint。它数据纯JSON、支持AI协作与端到端加密协作,还自研多个引擎,有多种上手和与AI协作方式。
让 AI 自己做增长:基于OPC和Harness思想的自主增长系统探索
文章围绕让AI自主做增长,基于OPC和Harness思想构建自主增长系统展开。介绍了系统背景、做法、多Agent架构落地方案,还提及踩坑问题、解决方案及对未来的思考,如完善数据集、探索OPC + AI Agent模式。