端侧运行」共找到 673 篇相关文章

新闻资讯7

向量数据库要被取代?DynamoDB 开始原生支持 AI 搜索

Amazon DynamoDB 推出原生向量搜索,允许开发者将嵌入向量与应用数据存一起,直接在其中运行近似最近邻查询,无需单独向量数据库。介绍了功能特点、成本计费及开发者反馈等。

InfoQ
开源动态7

4.4w颗星!又一个CC Switch,几乎支持所有模型

Free CC(FCC)是本地 API 代理 + 协议转换层,能让客户端透明使用任意 OpenAI 兼容或专用上游模型,保留客户端能力。支持多提供商,架构分层、设计清晰,还有多种技术特性,文中给出安装、启动等步骤。

GitHubStore
开源动态8

openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%

传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。

机器之心
产品应用7

Anthropic发布Claude Science,AI开始像研二学生一样做科研

当地时间6月30日,Anthropic发布科研产品Claude Science。它运行Claude Opus 4.8,亮点在使用方式,将科研所需整合,还能拆分任务。早期用户反馈良好,与OpenAI、谷歌竞争,已开放测试版。

DeepTech深科技
开源动态8

清华系团队出手!一张 4090 即可「爆改」,1.3B小钢炮震撼开源

5月11日,清华系团队面壁智能联合多方开源端侧多模态大模型MiniCPM-V 4.6。它参数仅1.3B,性能超阿里、谷歌等同级对手,效率翻倍,还实现两项架构创新,适配主流开源生态,降低开发门槛。

新智元
产品应用8

Qoder CLI + Harness Engineering 实战:构建 7×24h 无人值守用户反馈自动处理系统

在 Qoder 产品用户反馈增多、人力处理流程痛点凸显的背景下,构建 7×24 小时无人值守的用户反馈自动处理系统。该系统分四个核心模块,基于 Qoder CLI 实现,显著提升处理效率。

阿里云开发者
开源动态7

这个 AI 股票分析项目,居然快 2w star了?!

A股行情火热,盯盘分析耗时耗力。Github上的开源项目`daily_stock_analysis`基于AI大模型构建,能自动分析股票行情等,生成“AI决策仪表盘”,给出投资参考建议,目前已获18.1k+ Star。

开源先锋
开源动态7

OpenClaw 之后,Agentic RL有了新训练范式

大模型技术推动AI从‘回答问题’迈向‘执行任务’,Agentic AI兴起。中国科大认知智能全国重点实验室提出Claw - R1项目,将前沿Agent Runtime与强化学习训练框架结合,为Agentic AI提供新训练基础设施。

PaperAgent
开源动态8

刚刚,OpenClaw登顶GitHub软件星标历史第一!已超越Linux

仅两月,本地AI框架OpenClaw击败Linux,登顶GitHub星标第一。它是开源本地运行的AI Agent框架,能接入通讯工具,虽引发安全危机和限制,却热度不减,反映开源社区趋势变化。

新智元
产品应用7

Kimi推出Kimi Claw,原生集成OpenClaw

Kimi.com原生支持OpenClaw,推出新功能Kimi Claw,可在浏览器标签页运行且全天候在线。有ClawHub访问权限、40GB云存储空间等特性,现开启Beta测试,对特定等级会员开放。

AI寒武纪