「在离线混部」共找到 8177 篇相关文章
华科校友在港冲刺AI infra第一股！已是中国最能赚的独立边缘云服务商，王小川天使轮就投了
PPIO派欧云作为独立分布式云计算服务商，是AI云计算服务先行者，近期在港交所递交招股书。它由华科校友创立，获王小川等投资，业务分边缘云与AI云计算，虽亏损但现金储备足，看好分布式云计算市场。
国外网友疯传DeepSeek R2/R3/R4 炸裂突破，超越传统的「跨因果超矩阵」，并在训练过程中自发产生了R5……
国外网友疯传DeepSeek R2到R5的“重磅”消息，爆料内容层层递进且玄幻离谱。Anthropic联合创始人评价有认可也有轻视。当下闭源模型各领风骚，开源阵营期望集中在DeepSeek R2，应平常心看待传言。
DeepSeek|从零构建轻量级vLLM：Nano-vLLM，吞吐量逼近原版，代码仅需1200行
开源的vLLM能提升LLM推理速度和资源利用率。近日，DeepSeek AI俞星凯从零构建轻量级Nano - vLLM，代码仅1200行。它有离线推理等功能，基准测试显示吞吐量逼近原版。
腾讯再次试水？社交电商可不单单是拼流量这么简单！
社交电商的竞争核心并非只是流量，而是商品和服务的质量。腾讯在社交电商领域的最新尝试是微信小商店，它通过各种模式探索，试图在社交电商领域占据一席之地。
1200行代码逆袭！DeepSeek工程师开源轻量级vLLM，吞吐量逼近原版
开源 vLLM 可提升 LLM 推理速度和资源利用率。近日，DeepSeek 工程师俞星凯开源轻量级 Nano - vLLM，代码仅 1200 行，基准测试中吞吐量逼近原版，项目已在 GitHub 获 200 多 Star。
AI 本地跑？Google 新开源模型上线，本地量化后占用不到 200MB 内存，支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma，专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练，提升效率。在MTEB测试中成绩佳，支持百余种语言，内存占用少，已集成多种工具。
实测腾讯Hunyuan-Image2.0，首个毫秒级实时图像生成模型
今天上午腾讯发布混元图像2.0，以“更智能、更开放、更中国”为理念。其参数规模提升，推理时间大幅压缩，实现毫秒级实时生成，还在画面质量等方面升级，新增实时绘画板功能。
谷歌发布本地具身智能模型！全程无联网执行精细操作，从人形机器人到工业机器人全覆盖
Google DeepMind团队发布可本地运行的视觉 - 语言 - 动作模型Gemini Robotics On - Device，它能离线运行，操作能力强，可在多种机器人本体部署，解决网络问题，性能、适应能力出色，还开放了SDK。
从OpenAI AI Phone到Gemini on Android：AI手机时代需要怎样的Agent Harness？
过去一年，AI与手机关系被重新定义，腾讯混元等机构研究PhoneHarness，关注AI在手机上行动及任务完成验证问题。它让手机Agent行动不止GUI，还有Bench检验执行结果，推进AI手机基础设施建设。
Github 1.8K star厉害！！有了这个办公AI神器，效率飙升！
Speakr是完全自托管的AI会议助手，能将音频转文字、生成摘要、进行内容问答，离线运行保障隐私和安全。它功能丰富且轻巧，支持多平台，GitHub已破1.8K star。