搜索：大模型推理系统

「大模型推理系统」共找到 9257 篇相关文章

14k颗星！你的电脑屏幕，正在成为AGI的“眼睛”！这款开源神器让你一键记录所有操作

介绍开源项目ScreenPipe，它是跨平台桌面数据抓取API，能全维度记录数据，有沙盒化插件系统等功能。因能为AGI提供数据、对开发者友好而火，还给出安装和创建插件命令，称其有成为AGI时代“现实采集器”的野心。

AI大模型发展推动算力对互联带宽需求提升，牛芯半导体完成自研PCIe 6.0 PHY IP研发，构建了覆盖PCIe 3.0到6.0的完整高速互联IP产品矩阵，为国产高端芯片提供自主可控的超高速互联方案，目前已开放客户技术评估。

本文整理自蚂蚁集团支付宝AI端云交互负责人魏凤笛的大会分享，系统介绍支付宝AI入口产品“阿宝”背后的xUI技术体系，涵盖通信、交互、执行、多Agent协同四大核心方向，分享了大厂移动端Agent落地的工程实践与未来规划。

如今患者依赖AI问诊加重医患沟通负担。百川智能推出的Baichuan - M4对通用大模型做结构性重构与医疗专项增强。M4在能力结构上升级，其C端产品百小医能与患者深度建联，有望构建医疗健康新生态。

本文围绕RAG技术展开，指出传统RAG在多跳推理等方面存在局限。介绍了GraphRAG、HippoRAG 2的优缺点，重点阐述Zleap AI的SAG方案，它用超边结构重构数据底座，在多跳问答测试中表现出色，还能在大规模数据下低延迟落地。

本文作者复盘用AutoResearch训练YOLOv8模型全过程。先介绍其要素框架，选YOLOv8 + NEU - DET做实验，经V1轻量验证后升级到V2完整闭环，64轮实验后mAP从0.729提至0.773，还总结工程结论并给出迁移场景建议。

文章指出人们对AI的认知正出现巨大裂缝，Karpathy将人分为两拨，一拨用免费版ChatGPT后认为AI不过如此，另一拨花高价订阅前沿模型感受其惊人进步。不同用户群体使用的AI能力代差大，还提及使用时长维度。

有人认为用大模型合成数据可快速生产，无需人工标注。但作者观察发现人工标注不仅必要且要求更高。以Scale AI、Surge AI为例说明标注价值，还展示‘智能知识’团队对两数据集审查结果，证明高质量数据需专家和管理流程。

腾讯云入局智能体赛道，将大模型知识引擎升级为智能体开发平台。该平台亮点多，如可一键发布到企业微信，具备多工具调用、多Agent协作能力，工作流有全局视野Agent节点，还有Excel检索增强功能，经测试表现出色。

本文报道Anthropic最新研究，团队在Claude大模型中发现自发形成的J-space区域，匹配意识研究的全局工作空间理论，人类可直接读取、修改AI未输出的内部想法，揭示了现有AI对齐评测的重大漏洞，为AI意识研究提供了工程化路径。