「中训练」共找到 4206 篇相关文章
DeepSeek悄悄开源LPLB:用线性规划解决MoE负载不均
昨天,DeepSeek 在 GitHub 上线新代码库 LPLB 解决 MoE 负载不均。它利用线性规划算法优化专家并行工作负载分配,能处理动态波动,但也存在忽略非线性成本等局限,对 MoE 架构训练加速有参考价值。
谷歌开源Gemma 3 270M,性能超越Qwen 2.5同级模型
本周四,谷歌发布 Gemma 3 270M 模型,它参数小、功能强,具备指令跟踪等能力。在 IFEval 测试中表现出色,节能且适合多场景,谷歌还提供使用指南和试用途径,Gemma 系列下载量已破两亿。
不死的程序员
文章回顾计算机技术演进中八次“程序员替代论”浪潮,从编译器诞生到如今大语言模型崛起。虽每次都预言程序员被取代,但实际是角色重塑、分层,新需求增长超人力节省,程序员价值仍在。
从天价咨询到免费AI,夸克能改变志愿填报这门生意吗?
高考报志愿难题一直存在,天价咨询服务并非人人能享。夸克推出国内首个高考志愿大模型,免费生成志愿报告。它能理解复杂规则、把握考生需求,经多阶段训练优化,还搭载高考知识库,产品体验简便。
Transformer学不会多位数乘法?MIT和哈佛的研究指出了一个简单漏洞
MIT、哈佛和谷歌DeepMind团队实验发现,Transformer做4位数乘法有软肋。用‘隐式思维链’(ICoT)训练的模型准确率达100%,传统方法仅1%。研究揭示了问题根源,还给出修复方案,但也引发诸多质疑。
[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解
文章详细介绍vLLM中Triton Merge Attention States Kernel的实现,与PyTorch原生实现对比,该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。
性能碾压GPT-4.1-mini!Mistral开源Devstral,还能在笔记本上跑
法国AI初创公司Mistral与All Hands AI合作,发布全新开源语言模型Devstral,有240亿参数,所需算力低,可本地部署。它能解决真实GitHub问题,在SWE基准测试中表现优于多个模型,还能通过API访问。
字节Seedance,正在占领好莱坞
字节Seedance从被好莱坞排斥到被认可,进入创作者圈与工作流,用于拍电影长片。它成本低且有免费福利,吸引独立电影人。在AI视频模型竞赛中逼近美国对手,影视业对AI投入将上涨。
苹果推出 Ferret-UI Lite:一款用于查看和控制 UI 的端侧 AI 模型
苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型,可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题,Ferret-UI Lite 性能有竞争力,训练采用两阶段流程,还给出应用建议。
破解机器人「慢半拍」难题:南洋理工解决VLA致命短板,动态世界断层领先
南洋理工大学NTU S-Lab团队提出DynamicVLA,解决主流VLA模型在动态场景下反应迟缓等问题。它从多层面设计,构建自动化数据体系和DOM Benchmark,在实验中多维度领先。