「超低延迟」共找到 3034 篇相关文章
豆包是如何炼成的?字节放出自研万卡训练系统ByteRobust论文
文章介绍字节跳动的LLM训练基础设施ByteRobust。它由控制和数据平面构成,关键目标是获高ETTR。该系统优先快速隔离故障、考量人为错误、控制恢复可变性,已部署超一年,效果显著。
苹果AI选Mamba:Agent任务比Transformer更好
苹果新研究指出,在长任务、多交互的Agent式任务中,基于SSM架构的Mamba在效率与泛化能力上超Transformer。虽Mamba有局限性,但引入外部工具后性能显著提升。
谷歌nano banana正式上线:单图成本不到3毛钱,比OpenAI便宜95%
昨晚谷歌图像生成与编辑模型nano banana上线,正式名gemini - 2.5 - flash - image - preview。它有强大能力,成本低,有多种玩法,上线后测试火爆,在多个榜单成绩优异。
宇树机器人租不出去了
2025开年,宇树机器人因春晚表演成“顶流”,人形机器人租赁爆发。但热潮渐退,其租赁市场萎缩,复购率低。技术上实现简单动作难,商业化前景存疑,行业凸显理想与商业的矛盾。
刚刚,Gemini 2.5 Pro升级,成编程模型新王
Google DeepMind发布Gemini 2.5 Pro (I/O edition),编程能力大幅提升,在编程排行榜超Claude 3.7 Sonnet。用户用一个提示词或草图+描述就能构建应用,谷歌大佬站台,网友实测效果佳。
全新线性注意力范式!哈工深张正团队提出模长感知线性注意力!显存直降92.3%!
哈工深张正团队联合多团队发布论文,提出 NaLaFormer 框架,解决线性注意力两大核心缺陷,保持线性复杂度同时精度超越,在多任务表现出色,如超分任务显存降 92.3%。
中科院“二氧化碳制糖”新成果全网热议!不依赖光合作用,“迈向深空前置技术”
中国科学院天津工业生物技术研究所提出新技术,首次构建体外转化系统,打通“CO₂→甲醇→蔗糖”合成路径。绕过植物光合作用制糖,能耗低、效率高,对解决全球变暖、粮食危机有启发。
RAG创新了,MCompassRAG装上了语义指南针
RAG系统存在chunk切分难题,现有方案有额外成本。MCompassRAG不切细、不rerank,给粗chunk加主题元数据当指南针,训练推理分离,实验显示信息效率提升、延迟降低。
单任务狂飙16小时!模型+Harness双轮驱动,金融Agent跑通了
2026年AI圈热词Harness成Agent产品基础设施。通用Harness难适配金融订单,易鑫首席科技官贾志峰将开源自研Harness Framework,采用三层驾驭体系,实测效果佳,成本低。
基于百万亿 Token 的 AI 使用模式分析:趋势、拐点与未来|PPT分享
近期OpenRouter报告《人工智能现状:基于OpenRouter的100万亿Token实证研究》,分析超100万亿个token的真实世界LLM交互数据,弥补LLM实际使用情况证据不足,揭示2024年转折及多方面发现。