「大厂推虾苗」共找到 5618 篇相关文章
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。
三问脑机接口芯片
《中国电子报》围绕脑机接口所需芯片类型、注重的能力及迭代方向三问脑机芯片。今年国内外企业、高校进展不断，如Neuralink、海南大学等。还提及脑机芯片需跨学科协同及人才培养。
深谋科技重磅发布真正为人类服务的新一代人形机器人核心技术「声波传感 · 意念控制 · 高精视觉 · 类脑智能」
深谋科技将在2025 WAIC展示陆上具身智能人形“美猴王”和空中具身智能巨兽“星汉一号”，并发布新一代人形机器人核心技术，包括传感、脑机交互等系统，构建具身智能全域系统闭环。
首次综述「边-云协同计算」，分布式智能与模型优化的最新进展
边缘 - 云协同计算整合边缘节点和云端资源，解决传统云计算问题。最新综述论文系统梳理其架构设计、模型优化等方面，提出统一框架，还指明未来研究方向，如大语言模型部署、6G整合等。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
OpenAI去年挖的坑填上了！奖励模型首现Scaling Law，1.8B给70B巨兽上了一课
全新奖励模型「POLAR」采用对比学习范式，摆脱对海量人工标注依赖，有强大Scaling潜力。它衡量训练与目标策略「距离」作奖励信号，用自动化合成数据预训练，小模型能超越大数十倍规模对手。
GPU到底是如何工作的？这篇AI Infra入门全部告诉你
本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU，NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构，对比二者性能，介绍编译、加载、启动过程，以及GPU硬件架构、编程与执行模型，分析SIMD和SIMT。
AI 陪伴硬件的反共识讨论：主体性很重要，同质化竞争不存在
文章围绕AI陪伴硬件展开讨论，邀请创业者探讨产品角色定位、性别设定、用户反馈等问题。指出产品应注重主体性，避免破坏角色感，还提及应对同质化竞争、产品寿命、视觉研究等方面的思路。
数学题干带猫AI就不会了！错误率翻300%，DeepSeek、o1都不能幸免
研究发现，在数学题后加如“猫一生绝大多数时间都在睡觉”这类话术，会让大模型答错概率翻3倍，DeepSeek - R1、OpenAI o1等推理模型中招。研究探索攻击方式，总结出三种攻击模式。
不死的程序员
文章回顾计算机技术演进中八次“程序员替代论”浪潮，从编译器诞生到如今大语言模型崛起。虽每次都预言程序员被取代，但实际是角色重塑、分层，新需求增长超人力节省，程序员价值仍在。