「可观测2.0」共找到 5996 篇相关文章
全新GPU高速互联设计,为大模型训练降本增效!北大/阶跃/曦智提出新一代高带宽域架构
随着大模型参数规模扩大,分布式训练成关键路径,高带宽域设计对提升训练效率至关重要。现有HBD架构在可扩展性、成本和容错能力等方面有局限,北大、阶跃、曦智团队提出InfiniteHBD架构解决问题。
刚刚,DeepMind通用科学智能体AlphaEvolve突破数学极限,陶哲轩合作参与
DeepMind发布革命性进化编码智能体AlphaEvolve,由LLMs驱动,可演化代码库、发现和优化算法。它结合LLM创造力与自动化评估,减少幻觉,在多领域应用前景大,还与陶哲轩合作探索数学应用。
Gemini新手教学
最近Google推出教育优惠,可免费使用15个月含Gemini Advanced等在内的AI产品。作者分享使用Gemini经验,指出其在上下文长度和生态打通方面优于ChatGPT,老牌厂商家底足,OpenAI下半场有压力。
RAG系统设计:揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上,Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性,揭示其被低估原因,分析本质与作用,分享设计高效架构方法,还讨论KG驱动的RAG系统及范式选择。
55.9K star!微软硬核开源文档转换神器,LLM最佳拍档!
介绍微软开源的轻量级Python文档转换工具MarkItDown,它支持20+格式智能转换为结构化Markdown,专为LLM文本分析场景优化,解决开发者处理多格式文档痛点,还阐述其功能、技术架构等内容。
Reasoning的最终答案可能不是模型想要的答案!
大型语言模型解决复杂问题有推理过程和答案,传统评估只看最终答案。论文提出最终答案可能不佳,中间步骤更值得研究。还介绍通过切割推理过程发现中间步骤藏玄机,提出‘分步检查法’提升模型表现,实验表明准确率最高提升13%等。
从 Jev 到 TierSense, Agent 的「判断层」正在被拆出来 | GAIR Paper 132
本文解读Jev和TierSense项目,提出将Agent判断层从大模型生成中拆分,交给专用轻量模型,介绍TierSense能力、实验数据,探讨专用判断模型优化Agent效率的新方向。
PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐直接翻近7倍
当前大模型算力需求攀升,高端GPU供给紧成本高,大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎,通过纯软件优化挖掘硬件潜力,让DeepSeek推理吞吐提升近7倍,方法也适配国产GPU。
模型一模一样,Token 却相差 70 倍?三项实测揭开 AI 编程工具的成本黑洞
本文通过三项独立基准测试,证实相同AI模型下,不同AI编程智能体框架的Token消耗最高相差70倍,分析了成本差异的核心原因,为企业AI成本控制提供可落地的衡量标准。
MiniMax ARR暴涨500%,token暴涨2000%!这就是Agent红利吧
MiniMax最新数据显示,今年8月ARR超8亿美元,较2月增长约5.3倍。2026年上半年收入同比涨283.1%,B端收入占比升至80%。其增长得益于用户增多和用法改变,M3、H3模型表现出色。