「AI推理成本」共找到 11687 篇相关文章
Claude团队用Qwen测试全新训练方法
Anthropic最新研究提出中训练（MSM），在预训练后、后训练前给AI立规矩。实验显示，新增MSM能让通义千问两款32B大模型失准率大幅下降，还能精简微调数据。MSM与对齐微调结合，可提升模型泛化能力。
高性能计算群星闪耀时
本文介绍了高性能计算（HPC）在大模型时代的重要性，以及清华高性能计算团队在HPC及相关领域的研究与实践。如郑纬民带领团队突破存储技术，陈文光、翟季冬等助力大模型训练，武永卫团队优化推理，张悠慧探索类脑计算。
疯了，A社IPO大饼画到30万亿美元！一个美国的GDP
华尔街日报爆料，Anthropic将告诉投资人其潜在收入机会超30万亿美元，已秘密递交IPO草案。该数字是标普1500里191家科技公司去年营收总和的12倍，算法是把AI能接手的工作全算进去。公司内部面试还筛人，很割裂。
阿里云 Tair 基于 3FS 工程化落地 KVCache：企业级部署、高可用运维与性能调优实践
本文介绍阿里云 Tair KVCache 团队与服务器研发存储软硬件结合团队对 3FS 的工程化升级实践。从性能、产品、运维维度优化，为高性能 KVCache 在企业级 AI 场景落地提供范式，还提及未来 3FS 产品化及服务器硬件升级方向。
飞轮“倒转”，灵巧手厂商困在夹缝里
2024年具身智能焦点转向灵巧手，初创公司遭上下游夹击。技术远未成熟价格战却已升级，投资者押注最AI、最像人手、最早量产。但智能不足、应用场景不明确，降本成唯一共识，行业陷入“降本缺规模”死循环。
10步优化超越强化学习，仅需1条未标注数据！后训练强势破局
无监督的熵最小化（EM）方法仅需一条未标注数据和约10步优化，就能显著提升大模型在推理任务上的表现，甚至超越依赖大量数据和复杂奖励机制的强化学习（RL）。EM为大模型后训练提供了更高效简洁的新思路。
当Sora2遇上国产 Vidu Q2，国产参考生真的更香了！一手亲测
国庆假期Sora 2吸睛，其客串功能将它拉到“AI版抖音”高度。但Vidu去年9月就提出【参考生】视频功能，Vidu Q2已是第5个迭代版本。文章对Vidu Q2参考生视频和Sora 2从一致性、物理规律遵循、运镜等维度进行PK。
澜起科技：高速互连芯片巨头历史
文章讲述澜起科技发展历程。它从电视机顶盒芯片转型内存接口、高速互连芯片，虽历经政策冲击、做空危机、供应链压力与客户竞争等挑战，但凭借技术实力和研发投入，在行业中站稳脚跟，未来有望受益于AI算力需求升级。
内存四年涨700%，长鑫LPDDR6送样能把价格打下来吗
近期“长鑫DDR6送审”刷屏，实则涉及技术进度、资本事件、供应链前置动作。文章分析长鑫进展含金量，认为国产DRAM首次和国际标准处同一窗口。此轮存储涨价因HBM抽走通用产能，长鑫或补通用市场空缺。
Gemini 3.5 Pro绝密泄露，前端赶超Fable 5！
全网被Gemini 3.5 Pro泄露刷屏，传闻7月17日发布。它在前端生成表现出色，一次成型、精准零失误，性能超Fable 5，但在硬核推理等任务上不如Fable 5和GPT - 5.6。谷歌为其重预训练，还准备对标GPT - Image 2的图像模型。