「AI模型性能」共找到 14153 篇相关文章
阿里云Tair KVCache仿真分析:高精度的计算和缓存模拟设计与实现
阿里云Tair KVCache团队推出Tair - KVCache - HiSim,这是面向分布式多级KVCache管理的高保真LLM推理仿真分析工具。它能在通用CPU上高精度预测性能,支撑计算选型、存储规划和调度协同等决策,还介绍了其架构、组件、验证及性能评估等内容。
Natura-1发布:从百万小时人类经验中学会零样本泛化与灵巧操作
本文报道北京具身智能公司自然意志发布全新Natura-1模型,该50B参数MoE模型基于百万小时人类第一视角经验预训练,可驱动20自由度灵巧手实现零样本泛化,完成各类复杂日常操作,攻克了机器人灵巧与通用难以兼得的难题。
Agent 重构互联网,谁将受益于线上内容的“帕累托效应”?|AGIX PM Notes
文章围绕AI时代展开。在搜索领域,谷歌垄断案法庭主张其向竞争者开放搜索索引数据,这能助对手构建强大索引、补短板。商品服务层面也有80 - 20重构。还提及本周市场动态、AI企业相关消息,如谷歌案裁决、OpenAI成本预期等。
27M参数战胜GPT-4!脑启发的分层Reasoning引擎如何重塑LLM
当前大语言模型(LLM)核心架构存在根本性缺陷,受大脑分层处理和多时间尺度启发,本文提出仅2700万参数的分层推理模型(HRM),免预训练与CoT标注,单次前向传播解决复杂任务,在ARC - AGI上超越GPT - 4等LLM。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时,发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案,启动多个不同配置Kernel,依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
Gemini Flash/Lite 更新:更聪明、更快、更省钱
Gemini 2.5 Flash 和 2.5 Flash-Lite 更新,可在 Google AI Studio 和 Vertex AI 上使用。相比稳定型号,预览型号质量和速度提升,效率更高,分别减少一定比例输出令牌。两版本各有优势,如 Flash-Lite 指令遵循等能力提升,Flash 工具使用性能更好。
突发!Anthropic宣布Fable 5.1仅用一条提示词突破粒子物理“九圈”难题
本文报道Anthropic团队用搭载Fable 5.1的Claude Science平台,仅靠一句提示词,让AI自主完成粒子物理领域卡壳多年的N=4超杨-米尔斯理论九圈散射振幅计算,结果经原纪录保持者验证正确,总成本仅千余美元,展现了AI在科研领域的突破能力。
从傅盛的龙虾到汗青的加速主义,AIFUT大会Day1下午场总结都在这了。
AIFUT大会第一天下午场信息密度大。傅盛称龙虾是工具的AGI时刻;特效小哥008认为AI不替代人类但可能替代工作;辩论探讨教用AI能否教会;朱广翔说程序员岗位将减少,泛创造者会增加;李继刚指出人不可压缩的只剩体验;赵汗青探讨慢的东西如何存活。
MCP for 可观测2.0,6个让MCP开发更高效的小妙招
文章介绍MCP这一开放协议,它能标准化AI模型与不同数据源和工具连接。分享配置MCP开发所需客户端、API等步骤,阐述阿里云可观测2.0融合MCP的实践及效果,还给出设计MCP Server的6个经验,最后展望了MCP应用场景和可观测2.0+AI未来。