「隐私计算」共找到 849 篇相关文章
【博客转载】CUDA Local Memory
文章围绕CUDA本地内存展开，介绍其为线程私有存储空间，访问特性与全局内存类似。通过两个计算滑动平均值的CUDA kernel示例，展示数组索引复杂度对存储位置的影响，还给出判断存储位置的方法及优化建议。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
20人团队提前实现DeepSeek构想，AI算力变天？直击大模型算力成本痛点
国内20人玉盘AI团队推出SRDA全新计算架构方案，试图从硬件源头解决当前AI算力核心瓶颈。该架构有诸多创新设计，能应对大模型训推痛点，与DeepSeek构想契合，或成大模型专用架构分水岭。
谷歌突袭发布AI应用，无需Wi-Fi、手机就能跑大模型！网友实测两极分化
谷歌推出 Google AI Edge Gallery 应用，可在 Android 设备离线运行 AI 模型。它有本地运行、智能选模等特点，响应快且隐私性好。不过网友实测评价不一，有人认为它是旧技术包装，还被指比 Core ML 落后。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了
一项新研究表明，7B小模型LoopCoder v2在正常计算外多循环一次，就能在SWE - bench Verified基准上大幅提分。继续增加循环次数，性能反而下降。研究还算了‘收益 - 成本’账，给出选择循环次数的诊断方法。
让外部知识“长入”模型：动态化与参数化 RAG 技术探索
检索增强生成（RAG）成大语言模型利用外部知识主流范式，但传统方法将其当黑箱，忽略动态需求和机制鸿沟。艾清遥博士介绍动态化和参数化检索增强技术，可提升准确性与适应性，减少计算开销。
人跑光了，AI视频炸了！马斯克狂发推：Grok Imagine三金封神
xAI的Grok Imagine在DesignArena视频排行榜上，拿下视频竞技场、图像转视频和视频编辑三项第一，远超谷歌Veo 3.1、Sora等对手。它进步迅猛，靠聪明设计取胜，还将推动AI从“蛮力计算”向“智能理解”转变。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
比人类专家快2倍，斯坦福联合英伟达发布TTT-Discover：用「测试时强化学习」攻克科学难题
斯坦福与英伟达等机构联合提出 TTT - Discover 方法，让 LLM 在测试时强化学习。它在多任务上成绩出色，如在数学、GPU 内核等领域超越人类和其他 AI，计算成本低，或为持续学习打开新空间。