「大模型推理系统」共找到 9204 篇相关文章
Meta员工空转AI只为浪费token！烧的多挣的多，日均消耗2万亿
Meta内部在首席AI官亚历山大王推动下，员工为抢夺虚荣头衔展开“Token竞技”，日均消耗两万亿Token。这源于扎克伯格重写代码库要求，首席技术官支持资源投入。新模型将半开源，嵌入社交业务。
访谈｜Codex 团队如何用自己的产品构建产品——整个 Spec 只有 10 个要点
OpenAI Codex 团队产品规格文档极简，仅 10 个要点。团队运作如‘海盗船’，规划只做近期和远期，不做中期。Codex App 诞生源于模型能力提升，团队以 power user 为导向设计产品，还谈到 PM 角色转变和招聘标准。
The Batch：927｜极速扩散学习
研究表明扩散图像生成器学习重建预训练编码器嵌入可加快训练，Apple团队提出的FAE，通过缩小嵌入再重建解决了因嵌入尺寸大导致的训练受阻问题，性能与先进模型相当且训练更快。
英伟达改卖Token？黄仁勋GTC后发声：token就是AI新通货，值钱的不是算力，是“每度电的智商”
英伟达黄仁勋在采访中强调其是加速计算公司，非单纯 GPU 公司。他认为 AI 竞赛从拼算力变拼产出，token 是新通货，还阐述了 AI 瓶颈、架构发展、推理编程、CPU 角色等观点。
GPT-5.4一周狂赚10亿美元ARR！一句嗨烧掉80刀，效率却飙升32倍
OpenAI总裁披露，GPT - 5.4上线一周，每天处理约5万亿token，带来10亿美元年化净新增收入。它成本和token消耗量高，但效率提升32倍。作为“大一统”模型，它智能水平出色，原生支持电脑操作。
黄仁勋联手OpenAI前高管，1吉瓦超级算力明年开闸
英伟达CEO黄仁勋与前OpenAI高管Mira Murati的初创公司Thinking Machines Lab达成「吉瓦级」合作，将部署至少1吉瓦下一代NVIDIA Vera Rubin系统，明年初启动，背后涉及数百亿美元，也引发对「循环融资」的担忧。
国产芯片也能跑AI视频实时生成了，商汤Seko 2.0揭秘幕后黑科技
自Sora 2发布，科技厂商掀起视频生成模型竞赛。12月15日商汤上线Seko 2.0，实现AI短剧‘一人剧组’。其背后的LightX2V框架做到实时生成，还适配国产芯片，有望推动视频创作生产力革命。
AI「看见」实验，哈佛颠覆性突破！一副AR眼镜，新手秒变资深专家
哈佛大学刘嘉教授团队研发人机共融智能系统，含APEX和Agentic Lab。前者用于微纳加工，后者用于生命实验。实测显示，它们能实时纠错、自动记录分析、实现技能迁移，让AI与人类在科研制造中深度融合。
AI 编码效率 x10，Bug 风险也 x10
亚马逊工程师 Joe Mag 分享团队用 Coding Agent 使代码产出效率提 10 倍，但 Bug 风险也放大 10 倍。介绍‘Agentic Coding’工作流，还给出借助 AI 做‘风洞测试’、升级 CI/CD、升级决策和沟通系统等建议。
GPT-5「降智」真相曝光：不是变笨，而是五个超级开关没激活
新智元报道，OpenAI最新提示工程指南揭秘调教GPT - 5的方法。通过调整自主探索倾向、推理深度等五个开关，可让GPT - 5从偶尔靠谱变全能，还介绍了元提示小技巧解锁其潜力。