搜索：并行协同推理

「并行协同推理」共找到 2551 篇相关文章

180亿深圳芯片黑马，华为猛下单

4月25日晚，云天励飞公告2024年营收超9亿，同比增81.3%，截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础，在推理算力、行业赋能、消费级业务均有布局，还与华为等合作。

智谱最新技术博客大倒苦水，称从GLM - 5以来遭遇「Scaling Pain」。团队排查出高负载下推理状态管理等问题致异常，还给出避坑指南，如在线异常监控策略，优化后系统更稳定，吞吐量提升。

在数字经济与物流产业融合背景下，B端营销面临挑战。京东物流王春阳分享B端营销实践，从人机协同到全流程大模型培育，用Agentic Workflow破‘机械感’难题，实现降本和转化率提升。

Canvas-to-Image 是面向组合式图像创作的全新框架，将不同控制信息整合在同一画布，简化图像生成控制流程。它解决了传统生成流程中控制方式分散的问题，能在推理阶段组合多种控制信号，实验效果良好。

文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。

腾讯混元团队开源4款小模型，最大7B。可在低功耗场景运行，支持微调。是融合推理模型，有快、慢思考模式，在多领域表现出色，亮点是agent和长文能力，已落地多元业务场景。

作者Dwarkesh Patel认为AGI不会马上到来。当前大语言模型缺乏持续学习能力，难以替代人类工作；计算机操作能力受训练周期、数据等限制；推理能力虽有突破，但仍需时间发展。作者给出了具体预测时间。

文章围绕让代码跑更快展开，先介绍调整源代码的方法，如降低循环开销、去除内存引用等，又阐述使用硬件加速指令，像用 SIMD 函数、避免分支语句等，还提及多核并行和分析瓶颈等要点。

红杉专访 OpenAI Codex 团队，探讨 AI Coding 未来。OpenAI 5 月推出的 Codex Agent 可并行处理多任务、独立完成编程全流程。从代码补全到任务委托，AI 编程朝解放生产力方向发展，团队分享了产品思考等内容。

具身智能最大挑战是泛化能力，美国具身智能公司Physical Intelligence推出π0.5 VLA模型，通过异构任务协同训练实现泛化，可在全新家中执行各种家务，虽有不足但向广泛泛化物理智能迈进。