「3B参数模型」共找到 8677 篇相关文章

新闻资讯7

AI折叠!Fable 5和GPT-5.6,正沦为少数人的特权

当前AI体验出现严重“阶层折叠”,极少数人用Fable、GPT - 5.6等顶级大模型,大众用的是低参数的平庸产品。算力成本让普通人难以触及顶级AI,在医疗等领域也存在使用差距,不过也有人认为普通工作无需顶级模型。

新智元
算法论文8

破解AI对不同上下⽂位置的敏感度不⼀致,新框架使出“解铃还须系铃人”

语言模型存在位置偏见,影响复杂推理等任务。论文提出Pos2Distill框架,将模型优势位置能力迁移到劣势位置缓解偏差,设计了Pos2Distill - R1和Pos2Distill - R2,在检索和推理任务表现好且有跨任务泛化能力。

量子位
算法论文7

MOE RL实战:统一FP8全流程训练

SGLang RL团队等联合完成工作,实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等,指出训练难点,分析KL Loss异常归因,验证其在MoE模型RL应用效果,还探究模型规模对训推不一致性的影响。

GiantPandaLLM
开源动态7

AI办公斩杀线,一页文档多少钱

腾讯混元Hy4 preview正式发布并开源,参数770B,是开源阵营里参数最大的Apache 2.0模型。它能处理长文本,官方定位有软件工程、办公分析等四个方向。还分析了处理一页文档的成本,指出办公AI下半场重在‘读懂’。

CourseAI
新闻资讯8

LeCun炮轰Hinton:他认可LLM就是想摆烂退休了!

Yann LeCun在播客专访中火力全开,炮轰Hinton认可LLM是想摆烂退休,直言LLM不是通往智能的路,还吐槽Meta卷入LLM竞赛后无法专注研究。他介绍了新公司AMI和世界模型、JEPA等技术,认为JEPA类世界模型五年内将统治AI圈。

量子位
开源动态8

腾讯智能体开源大动作!关键技术都拿出来了,开发平台还全面升级

在2025腾讯全球数字生态大会上,腾讯云智能体开发平台3.0(ADP3.0)面向全球上线,关键智能体技术将持续开源。新版本功能更新多,还有多个落地案例,如帮伊利、华住等落地智能体。腾讯优图实验室也有开源计划。

量子位
开源动态8

【博客翻译】使用PyTorch加速生成式AI第四部分:Seamless M4T,快速优化

这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分,专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph,在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速,端到端推理2.7倍加速。

GiantPandaLLM
新闻资讯7

发布智驾商用方案,千里科技的转身与雄心|甲子光年

今年6月23日,千里科技发布面向L2+级的千里智驾1.0,公布L3、L4级产品路线图。其前身是力帆科技,转型后与吉利合作。该方案分三版本,还将推L3、L4级别方案。公司有“一横一纵”能力,站位供应商。

甲子光年
产品应用7

77万人围观的吉卜力风「游戏」视频,我们用3个国产AI整出来了(含提示词)

Reddit上吉卜力风格游戏视频爆火,a16z合伙人Justine Moore转发获超77万浏览量。文章介绍用国产AI复刻视频的流程,包括用即梦3.0文生图,对比即梦3.0 Pro、可灵2.1大师版、Hailuo 02视频生成效果,还探讨AI对游戏产业的影响。

机器之心
开源动态7

一个Dispatch Dtype引起的fp8 quant kernel性能问题

文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。

GiantPandaLLM