「数据 Infra」共找到 2547 篇相关文章
马斯克用恐怖算力,堆出6万亿参数性能怪兽Grok 5!剑指AGI
马斯克以Grok为核心推进xAI,从算力、数据到产品生态全面布局通往AGI的道路。Grok迭代迅速,有独特研发哲学。X平台数据、特斯拉算力成资源护城河,Grok还将进入特斯拉汽车。但Grok成长中也有争议,xAI在探索中前行。
谷歌开源非结构化数据抽取工具
谷歌开源 Python 库 LangExtract,用 LLM 从非结构化文本文档提取结构化信息。它定位精确、输出可靠,针对长文档优化,有交互式可视化,支持多模型,适应多领域,还给出快速开始示例。
AI重新打开了创业窗口期?数据告诉你真相
移动互联网红利结束后创业圈寒冬漫长,2025 年起 AI 创业融资回暖,但资金集中于头部公司。AI 使创业成本断崖式下降,一人公司兴起,不过 AI 创业失败率仍高。真正的创业窗口期属于有行业认知、能差异化定位且善用 AI 的人。
实测丨全新的「扣子编程」,全新的 Vibe Infra
作者见证扣子多次迭代,虽其曾沉寂,但近期更新打消疑虑。扣子推出「扣子编程」,拥抱 Vibe Coding,打造三大核心功能矩阵。作者实测其功能,从想法到成品速度快,还能一键部署,软件开发门槛降低。
Common调查数据,72%美国青少年使用过AI伴侣
美国非营利组织Common Sense Media研究显示,72%美国青少年至少试过一次AI伴侣,52%为定期用户。研究还考察了使用行为、原因、感受等,如近半视其为工具,50%不信任其信息。
AI Infra进阶:如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
模型、代码、数据全开源!轻松训练自己的垂类Agent!
Together AI联合Agentica推出`DeepSWE-Preview`,基于开源Qwen模型,用RL在SWE - Bench - Verified登顶。团队将模型权重、训练框架等全开源,抛弃SFT纯用RL训练,还分享训练秘籍和TTS技巧,为垂类Agent训练提供新范本。
AI Infra入门干货总结:大模型是如何高效推理的
作者深入研读vLLM源码,以Llama 3为例,聚焦Decoder-Only架构LLM,介绍推理各环节及张量维度变化,讲解连续批处理和Paged Attention概念,还阐述推理流程、采样策略等,最后总结相关拓展内容。
科技CEO用ChatGPT+基因数据定制癌症疫苗!肿瘤缩小50%
科技从业者Paul的爱犬Rosie患罕见癌症,传统治疗难见效。他借助ChatGPT、AlphaFold等,结合基因测序数据,联合科研机构为狗狗定制mRNA癌症疫苗,使肿瘤缩小50%,但自主研制引生物安全担忧。
首个大规模记忆湖发布,AI Infra跑步进入“记忆”时代
LLM是AI的“第一大脑”,记忆平台是“第二大脑”。当前AI企业应用进入生产力时代,竞争聚焦“隐性知识”记忆化。质变科技发布MemoryLake,具备多方面能力,在性能上优势显著,已服务众多用户和企业。