「前缀和计算」共找到 7335 篇相关文章
我国的智算中心布局
结合民生证券报告和AIDC调研纪要，分析我国数据中心市场。全球数据中心建设将增长，新增容量约85%投向智算中心。中国智算中心大头在中西部，还介绍了国内投资主体格局。
ParScale：一种全新的大模型Scaling Law
文章提出并行扩展（ParScale）路线，在不增模型参数下，通过引入并行流提升性能。新扩展定律打破传统范式，两阶段后训练策略降成本，还适用于边缘设备，研究仍在进行。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
180亿深圳芯片黑马，华为猛下单
4月25日晚，云天励飞公告2024年营收超9亿，同比增81.3%，截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础，在推理算力、行业赋能、消费级业务均有布局，还与华为等合作。
突发，美商务部叫停「AI扩散规则」藏杀机！英伟达市值再破3万亿
13日晚美商务部撤销《AI扩散规则》，该规则曾遭科技巨头和盟友反对。同时出台加强半导体出口管制新措施，精准打击中国AI发展。而英伟达因规则废止受益，市值再破3万亿。
6个月估值翻倍！黄仁勋力荐的AI搜索公司欲开发浏览器取代谷歌Chrome
AI搜索引擎公司Perplexity接近完成5亿美元融资，估值达140亿美元。其搜索引擎产品出圈，获黄仁勋力荐。该公司欲开发AI浏览器Comet取代Chrome，不过面临谷歌等多方竞争。
超越DeepSeek-R1，英伟达开源新王登顶！14万H100小时训练细节全曝光
英伟达Llama - Nemotron系列模型超越DeepSeek - R1且全部开源。论文揭秘其训练关键，如用合成数据监督微调与强化学习等。还介绍构建阶段、架构设计等，评估显示该系列模型在多任务表现出色。
AgentA/B：用AI模拟用户，真人AB测试或将成为历史
宾夕法尼亚州立大学和亚马逊合作研发AgentA/B测试框架，用大语言模型生成虚拟用户模拟真实行为，成本低、速度快，还能绕开真实流量测试。虽有人质疑，但它或改变传统AB测试。
睡觉也在卷！伯克利Letta新作「睡眠时计算」让推理效率飙升
Letta和UC伯克利研究者提出「睡眠时计算」技术，能让LLM在空闲时间提前思考以提升推理效率，降低推理成本，在多数据集实验中展现优势，在软件工程任务中也有应用。
LoRA中到底有多少参数冗余？新研究：砍掉95%都能保持高性能
这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。