「负载均衡」共找到 91 篇相关文章
重磅！Thinking Machines开山之作：大模型输出随机的根本原因被揪出，并开源终结方案
由OpenAI前CTO创办的Thinking Machines宣布上线技术研究博客，开篇文章揪出LLM输出随机的根本原因是负载及批次大小的非确定性变化，并给出系统性解法，还开源方案。
戒糖反倒伤身？科学家发现完全不吃白糖的小鼠血糖更差
科威特 Dasman 糖尿病研究所的新研究通过小鼠实验发现，完全不吃糖的低脂饮食会致小鼠血糖失控、肠道细菌紊乱等。研究警示均衡营养比简单戒糖更重要，或影响未来膳食建议。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
突发｜立即检查你的Python库！LiteLLM被投毒，Karpathy警告，马斯克关注
Karpathy发长推文警告，GitHub超4万星、月下载量9700万次的Python库LiteLLM在PyPI上被投毒，含恶意代码版本为1.82.7和1.82.8，攻击负载分三阶段运行，引发马斯克关注。
当 Agent 开始接管工作流，企业最在意的三件事：安全运行、稳定交付、持续进化
Agentic AI 开发落地使基础设施问题凸显。AI 产业转向重视模型部署等，CPU 受关注，云计算角色转变，容器重要性凸显。Agent 应用规模化落地，AI 负载变化，Agent Infra 要解决四个问题，云和 CPU 任务也在改变。
国货之光！全球AI存储基准测试MLPerf Storage 3.0结果发布，斩获九项第一｜甲子光年
9月1日，MLPerf Storage 3.0基准测试结果发布，XSKY星辰天合旗下MeshFS首次参赛，在并行文件存储赛道获九项第一。该测试覆盖多类负载，可多维度衡量存储系统性能，MeshFS兼顾性能与成本效率。
半年复盘，AI迎来预训练后的新瓶颈。
2025年上半年AI领域发展加速，编码和多模态能力提升。但模型在综合能力上遇到第二轮瓶颈，编码能力强时通用认知能力‘拉胯’，或与RL阶段使用编程数据有关，红杉新基准或推动模型均衡发展。
AI原生数据库的思考
文章围绕AI原生数据库展开，分析企业应用大模型的问题，指出AI场景驱动数据库新工作负载。探讨AI数据库变与不变、实现路径，介绍原生混合搜索、现代数据架构、数模融合等，还提及seekdb的发布、定位、优势与不足。
硅谷大佬带头弃用 OpenAI、“倒戈”Kimi K2！直呼“太便宜了”，白宫首位 AI 主管也劝不住
硅谷正从昂贵闭源模型转向便宜开源替代方案。“SPAC 之王”Chamath Palihapitiya 团队将大量工作负载迁移至 Groq 平台的中国模型 Kimi K2，因其性能优且成本低。节目中还探讨中美开源模型现状等。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。