搜索：算力大考 - AI Reading Hub

「算力大考」共找到 5573 篇相关文章

为什么AI大厂的人，都跑去做生命科学了？

越来越多AI人才投身生命科学，创办数十亿美元估值公司。这是因训练通用模型门槛高，而生命科学技术可迁移、产业愿付费且有成功先例。新一代公司AI位置、融资、技术目标有变化，但仍面临数据和临床验证问题。

大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。

量子位对话商汤林达华，探讨大模型发展。商汤的SenseNova - SI超越李飞飞团队模型，林达华认为单纯依赖参数规模的AI范式遇瓶颈，商汤推出NEO架构革新，还在落地应用优化，为年轻人指明新赛道。

美国北加州旧不动产契约含种族歧视条款，人工筛查耗时久。斯坦福和普林斯顿大学研究人员微调大语言模型实现自动识别，分析圣克拉拉县契约，发现诸多受影响土地，且揭示少数开发者推动住房隔离，模型已开源。

香港浸会大学联合腾讯优图实验室提出 Streamo，将‘何时回答’变为模型预测的 token，通过端到端训练框架把离线视频模型转化为实时流视频助手，还构建 Streamo - Instruct - 465K 数据集，实验效果良好。

SuperSonic 是腾讯音乐开源的下一代 AI+BI 平台，融合 Chat BI 与 Headless BI 两种范式。它解决了传统 BI 工具复杂、数据口径不统一等痛点，有丰富功能和技术优势，适用于多业务场景，开源优势明显。

深度学习领域底层优化技术FlashAttention更新至4版本。其核心作者称在Blackwell GPU上，注意力机制执行速度接近矩阵乘法。新算法克服瓶颈，在B200上性能提升，还获Pytorch官方支持。

作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。

三星正快速进入大模型核心战场，构建Foundation Model体系，采购GPU用于AI基建。它提出Meki架构、M2RL训练范式和LiveClawBench评测体系，由AI Model TF团队推进，负责人是唐业辉。

4月20日，Anthropic与亚马逊签署超级大规模AI基础设施协议，1000亿美元十年砸向AWS算力，锁定5吉瓦用于训练和部署Claude。亚马逊追加投资，Anthropic营收猛增，此合作揭示AI竞争转向基础设施。