「大模型成本」共找到 9944 篇相关文章
10亿国民App丝滑升级AI应用！高德携手通义重构的底层架构曝光
高德用AI重构底层技术栈，建立主 - 从Agent架构，将千问大模型与空间智能结合。新架构分Agent层、模型层和工具层，还依托生态数据和通信协议。这让高德从工具变智能体，为行业转型提供范式。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时，发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术，将整体推理速度提升60%，还突破显存墙，且该优化可扩展到其他模型。
破解AI对不同上下⽂位置的敏感度不⼀致，新框架使出“解铃还须系铃人”
语言模型存在位置偏见，影响复杂推理等任务。论文提出Pos2Distill框架，将模型优势位置能力迁移到劣势位置缓解偏差，设计了Pos2Distill - R1和Pos2Distill - R2，在检索和推理任务表现好且有跨任务泛化能力。
MOE RL实战：统一FP8全流程训练
SGLang RL团队等联合完成工作，实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等，指出训练难点，分析KL Loss异常归因，验证其在MoE模型RL应用效果，还探究模型规模对训推不一致性的影响。
LeCun炮轰Hinton：他认可LLM就是想摆烂退休了！
Yann LeCun在播客专访中火力全开，炮轰Hinton认可LLM是想摆烂退休，直言LLM不是通往智能的路，还吐槽Meta卷入LLM竞赛后无法专注研究。他介绍了新公司AMI和世界模型、JEPA等技术，认为JEPA类世界模型五年内将统治AI圈。
小扎万字檄文炮轰硅谷，Meta重磅开源30B小钢炮！一台MacBook就能跑
Meta发布全新30B大模型Muse Glimmer并开源，用4-bit量化等技术让其能在本地设备运行，有五大核心超能力且采用Apache 2.0协议。同时，Meta CEO小扎发表万字檄文暗讽OpenAI等，抨击AI末日论等观点。
多模态需求井喷，智能视频云如何靠分布式处理破局？
国内多模态AI发展中，模型层火热但应用层落地慢。多模态应用落地面临体验升级、视频化扩展、大模型部署下沉挑战，催生智能视频云升级需求。火山引擎在FORCE大会展示分布式多媒体处理实践，推出MIPP平台，未来将开源并推商业化产品。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
AI音乐王座易主！Mureka V8硬刚全球巨头斩获双榜第一，V9即将来袭
AI音乐大模型Mureka V8在权威Artificial Analysis榜单上，斩获vocal与instrument双榜单第一，碾压Suno V4.5等主流模型。其核心技术是MusiCoT，在多维度获正向反馈。昆仑万维还与太合合作，V9将探索创作意图可控表达。