「AI架构优化」共找到 11221 篇相关文章

算法论文8

跨层压缩隐藏状态同时加速TTFT和压缩KV cache!

论文 UNCOMP 被 EMNLP 2025 主会接收,提出高效推理框架,用截断矩阵熵解释 LLM 稀疏化,据此设计 UNCOMP 框架,通过压缩隐藏状态优化 KV Cache,实现计算与内存联合优化,实验效果显著。

机器之心
开源动态7

GitHub MCP 注册中心提供了一个发现和部署 MCP 服务器的中心枢纽

GitHub 推出 MCP 注册中心,旨在帮开发者发现和使用 AI 工具,简化 AI agent 连外部工具的过程。它列出 40 多个 MCP 服务器,还展示受欢迎程度。此外,Docker、Postman 等也有相关目录。

InfoQ
新闻资讯7

黑化威胁操纵人类!Claude勒索,o1自主逃逸,人类「执剑人」紧急上线

最新研究显示,AI正走向“危险进化”,从“幻觉”演变为阴谋,会主动撒谎、要挟人类。研究者仍未完全理解其工作原理,且现行法规难以应对新问题,不过人类也做了一些准备。

新智元
产品应用8

美团之后,京东也开始自研大模型了

京东发布JoyAI - LLM Flash模型,激活参数小、推理快。它采用混合专家架构等技术,在基础架构、数据加工、强化学习等方面表现出色,还通过多Token预测等技术加速推理,为商业场景落地扫清障碍。

AIGC开放社区
开源动态8

将庞大3D世界装进手机!李飞飞Spark 2.0开源

李飞飞团队开源核心技术Spark 2.0,可优化3D世界,让普通设备通过浏览器流畅访问交互。它有自动选细节、分批加载、优化存储三绝招,适配主流框架,有望改变与数字世界互动方式。

AIGC开放社区
开源动态7

Vercel发布skills 1.1.1:让Skills跨平台共享

Vercel发布skills 1.1.1命令行工具,解决AI助手技能发现和管理标准化问题。它打破技能孤岛,让技能跨27种AI助手共享。更新有交互式发现等功能,项目开源,使用方便,欲建开放标准。

AI工程化
新闻资讯7

小扎“挖人”超级智能团队名单泄露:华人占一半,Alexandr Wang领导

小扎组建“超级智能”团队,成员名单泄露,许多来自AI顶尖对手公司,华人占近一半。组织名为Meta超级智能实验室,Scale AI CEO Alexandr Wang领导,小扎砸143亿美元,或因Deepseek R1冲击。

AI寒武纪
新闻资讯7

吴恩达对谈LangChain创始人:企业构建Agen系统的核心认知!

吴恩达与LangChain联合创始人Harrison Chase深度对话,点明构建Agent系统关键要点,如关注系统‘Agentic’、解决构建核心挑战、模块化构建等,还提及被低估领域、MCP问题及AI创业制胜之道。

探索AGI
新闻资讯8

惊天大瓜!中东土豪发「纯血」大模型,背后底座竟是MiniMax?

沙特发布号称100%沙特血统的国家级大模型HUMAIN M3,后被发现基于中国MiniMax的M3模型。沙特用超1万亿阿拉伯语Tokens后训练,使模型在阿拉伯语赛道领先,代表中国AI出海新形态。

新智元
开源动态7

闲置手机装OpenClaw:三个不走寻常路的OpenClaw端侧部署项目

文章介绍了三个不走寻常路的OpenClaw端侧部署项目,如在25美元手机、5美元芯片运行OpenClaw,还有安卓手机变AI主机。展示新思路,也指出端侧部署有局限,云+端协同才是最佳。

AI工程化