「显存管理」共找到 593 篇相关文章
醒醒吧！CEO猛吹AI写95%代码，绩效考核却还在拼程序员手速？
本文是对 Superhuman 工程负责人 Loic Houssier 的深度访谈。他分享了 AI 时代团队管理、开发流程、绩效评估等方面的变化，指出 AI 虽提升效率，但在质量评估、人才适配等方面仍需探索，还强调观望 AI 发展会有职业风险。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
AI侵权愈演愈烈！全国首部“AI生成内容合规”标准欢迎参与起草
近期AI侵权频发，暴露AIGC技术下沉应用危害。中国电子商会等联合起草全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》，规范合规要求，还给出四大核心路径解决企业痛点，并阐述标准价值，现公开征集起草方。
英伟达&MIT等推出Long-RL，长视频训练速度翻倍
英伟达联合MIT等推出Long - RL，它是面向长序列推理和多模态强化学习的全栈训练框架，能提升RL训练数据长度上限，让训练速度翻倍。其核心MR - SP并行框架可降低训练耗时和显存，LongVILA - R1是其明星应用。
实测LibTV团队版：AI视频的工作室时代来了！
作者实测LibTV团队版，分享用其制作皮克斯风格3D动画片段的过程，介绍团队版核心功能，如团队主体库、共享积分池、权限管理等，还提及新功能，指出AI视频走向工业化，而该团队版是首个专注团队协作的工具。
Anthropic 联创：2028 年实现 AI 自我构建的概率超过 60%
Anthropic 联合创始人 Jack Clark 发长文称，到 2028 年底，AI 实现端到端自动化研发概率超 60%。他分析多维度测试数据，指出 AI 在代码、科研、自我训练和管理等方面能力提升，也探讨了成真后的影响，但遭黄仁勋和陶哲轩质疑。
Agent 原生开发时代到来，Google Cloud Next 26 给开发者带来了什么
Google Cloud Next 26 大会热度高涨，反映行业对 Agent 原生时代的关注。Google Cloud 展示了云产业从 Cloud Native 到 Agent Native 的三层同步转换，还推出一系列 Agent 开发和管理套件，解决开发者关键问题。此外，大会亮点 A2UI 解决交互层 Agent 化。
万亿思考模型新速度！蚂蚁开源Ring-2.5-1T：IMO金牌水平，强；混合线性架构，快！
蚂蚁集团发布全球首个开源混合线性架构万亿参数模型Ring - 2.5 - 1T，打破深度思考牺牲推理速度和显存的‘不可能三角’。还同期发布扩散语言模型LLaDA2.1和全模态大模型Ming - flash - omni - 2.0，想做成可复用底座。
阿里云Tair KVCache仿真分析：高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim，这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能，支撑计算选型、存储规划和调度协同等决策，还介绍了其架构、组件、验证及性能评估等内容。
还在拼命加 GPU？AI 应用规模化的下半场，拼的是这五大软件“新基建”
文章指出 AI 应用规模化下半场，拼的是五大软件“新基建”。从云原生到 AI 原生，应用基础设施面临诸多挑战，如从代码中心到智能体管理等。作者提出构建智能体协作网格、认知记忆平台等五座技术灯塔，助力 AI 原生应用发展。