搜索：高带宽域架构

「高带宽域架构」共找到 3509 篇相关文章

开源共建重塑推理 Infra：从架构创新到生态协同，Mooncake的破局之路

大模型推理落地面临成本、吞吐、长上下文“三角困境”。开源项目Mooncake以“计算存储解耦”为核心，通过PD分离等技术提供底层支撑。直播邀请专家从多视角拆解其技术逻辑、开源价值与企业实践。

蚂蚁正式发布拥有万亿参数的通用语言模型Ling-1T，超越多个开源和闭源模型，在多项复杂推理基准中取得SOTA表现。它推理和代码能力强，研发采用‘中训练+后训练’，还提出新奖励机制和LPO方法。

谷歌DeepMind论文描绘由AI Agent自主交易和协作的经济体，提出“沙盒经济”框架，分析其起源与隔离程度，指出发展方向及挑战，还给出应用场景、市场机制、设计方案、基础设施层和行动建议。

大语言模型存在“知识截止”问题，RAG技术应运而生，成为大模型落地主流方案。但随着需求提升，其工程实现变复杂。清华等推出UltraRAG 2.0，仅50行代码实现同等功能，降低开发门槛，性能提升，还能落地多种场景。

GPT-5 迟迟未现身，引发众多传言。外媒爆料其虽有改进，但性能飞跃不如早期 GPT 型号。OpenAI 面临技术问题、组织重组压力等，不过 GPT-5 开发仍有进展，且公司新一轮融资顺利。

新智元报道，Meta疯狂挖人致OpenAI约十位员工跳槽。OpenAI首席研究官称像家被闯入，高层发强硬备忘录，决定重新调整薪酬、全员放一周假，以挽留人才。AI人才抢夺战白热化，行业形成“鄙视链”。

语音合成技术在大语种发展好，但小语种因语料稀缺等面临挑战。逻辑智能团队提出针对低资源语言TTS的解决方案，构建泰语数据集，经先进预处理，其TTS模型效果好，有零样本克隆能力。

清华刘知远团队论文提出全新数据筛选方案，解决传统数据筛选验证慢、主观性强问题。发明‘半成品加工法’降成本，用fastText筛数据，筛出Ultra - FineWeb数据集，提升模型性能，还计划拓展到专业领域。

这篇创新研究介绍了LoRI技术，证明即使大幅减少LoRA的可训练参数，模型性能依然强劲。研究团队在多个任务上测试了LoRI，发现仅训练LoRA参数的5%，LoRI就能匹配或超越其他方法的性能。

9月2日消息，OpenAI将推出的旗舰模型Astra采用“循环深度”新技术，用较小模型实现庞大模型性能，降低成本。但该技术会让AI推理过程不可读，加重安全担忧，此前奥特曼已因Astra“能力过强”踩刹车。