搜索：可预测并行架构

「可预测并行架构」共找到 2405 篇相关文章

AI也能换岗了！Anthropic教智能体交接班，不怕长任务断片

Anthropic设计出长时智能体运行框架，让AI跨越数小时任务渐进式推进。其采用双智能体架构，结合环境管理方法，提升全栈Web应用开发稳定性，但仍有通用与多智能体架构选择等开放问题。

介绍了基于LLM和RAG的结构化数据问答系统，它能将查询转化为SQL语句执行，生成数据图表及分析。其看板用法新颖，可进一步分析、预测，免去大部分BI工作，对非技术分析人员友好。

文章指出，为解决重复开发AI助手的效率问题，智空间团队将高频需求抽象为可复用技术方案，打造“AI助手生产线”。介绍四大高频场景本质、共性挑战及对应方案，还阐述分层架构、解决方案、prompt架构等，最终落地“助手工厂”产品。

当地时间6月25日，IBM发布全球首个亚1纳米芯片技术0.7纳米节点，晶体管密度翻倍，性能和能效大幅提升。该技术源于纳米堆叠架构，若5年内量产有望革新AI芯片架构，但量产面临诸多挑战。

继上周开源三连发后，阿里昨晚开源全球首个 MoE 架构视频生成模型 Wan2.2，具电影级美学控制能力。它有 MoE 架构创新等四大技术亮点，可在 Hugging Face 和阿里魔搭社区下载。

当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。

DeepSeek团队发布论文《洞察DeepSeek - V3：规模的挑战和对AI架构硬件的思考》，从硬件架构和模型设计双重视角，探索其经济高效的大规模训练和推理方法，介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。

InfoQ对话小米小爱同学端侧AI负责人杨永杰，探讨大模型端侧部署难题。团队自研推理框架，实现180 tokens/s推理速度，采用共享基座架构支持多业务。未来端侧大模型突破依赖硬件提升与架构演进。

原来，Scaling Law在32年前就被提出了，不是2020年的OpenAI、不是2017年的百度，而是1993年的贝尔实验室。在一篇文章里提出一种预测方法，研究人员可以预测模型在更大数据集上的表现，这和现在大家常提的Scaling Law几乎一致。

UC伯克利大学副教授Sergey Levine提出，为何语言模型从预测下一词中学到很多，视频模型从预测下一帧却学得少。他指出LLM可“抄近路”模仿人类推理，像在“柏拉图洞穴”中，还探讨了AI走出困境的方法。