「算力性能」共找到 2558 篇相关文章
LLM算力告急?把文本变图片,推理成本直接减半!
大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。
Sand.ai重磅更新MagiAttention,正在定义分布式Attention性能新标杆
2025年4月,Sand.ai开源MagiAttention v1.0.0。如今发布v1.1.0,适配Blackwell新架构,构建原生Group Collective原语,经系统级协同优化,在多模型训练中得到实证,展现卓越性能。
微调已死!「共识机制」实现提示词自我进化,性能飙升
人工智能领域正从「模型微调」向「上下文工程」转变。西湖大学MAPLE实验室齐国君教授团队提出基于「共识机制」的提示词组进化算法C - Evolve,能突破单一提示词性能局限,提升系统整体性能。
何恺明改进了谢赛宁的REPA:极大简化但性能依旧强悍
扩散生成模型在建模复杂数据分布表现出色,但与表征学习领域关联不大。谢赛宁团队提出REPA,不过较麻烦。何恺明团队提出Dispersive Loss,简化且性能强,无需预训练等,适用于多种模型。
黄仁勋出手!45倍性能暴涨,英伟达定义物理AI新纪元
在SIGGRAPH 2025上,英伟达发布「物理AI」全家桶。展示完整生态,含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍,还推多款模型,应用于多领域,推动物理AI落地。
AI浪潮下的算力租赁:欺诈套利、资本炒作、主体脱钩
AI浪潮下,算力租赁市场乱象丛生,有上市公司‘炒概念’推高股价,消纳方套壳毁约‘零成本’,租赁方为订单内卷。不过,市场也在自我调整,国家也有调控举措,行业有望回正轨。
深度 | OpenAI携手博通自研芯片:算力终局或是垂直整合?
OpenAI与博通战略合作,2026年下半年推进研发,将部署100亿瓦定制AI芯片系统。这标志其从算力采购转向定义,是摆脱英伟达依赖的标志事件,推动AI芯片市场进入新格局。
让LLM互相“审稿”:简单的LLM Collaboration/Ensemble方法实现7%性能提升
文章提出LLM-PeerReview方法,受学术同行评审启发,含评分、推理、选择模块。采用‘翻转三元评分技术’减少偏差,实验显示该方法超单一LLM及LLM Ensemble基线,性能提升显著。
AI 集成的智能 Profiling 实践:从性能分析到优化闭环
本文由韩钦亭撰写,分享了在已有 Profiling 平台引入 AI 智能辅助模块的实践。介绍了设计思路、工程实现、应用成效,对比不同大语言模型,通过实际案例展示优化效果,还探讨了 AI 在性能优化场景的未来潜力。
SRO架构赋予Qwen-2.5-VL推理能力,性能飙升16.8%
文本领域推理模型成就大,但扩展到多模态大语言模型遇阻力,如冷启动初始化不足等。为此提出 SRO 三阶段训练框架,经测试,ReVisual - R1 平均性能提升 16.8 个百分点。