「硬件反馈」共找到 691 篇相关文章
不可思议!400B大模型在iPhone上跑起来了
一个跑在 iPhone 17 Pro 的 A19 Pro 芯片上的 400B 大模型 Qwen3.5 - 397B - A17B 引发关注。这源于 Flash - MoE 开源项目,它摒弃现代 AI 框架,回归底层开发,实现消费级硬件上大模型交互级速度运行。
DeepSeek一体机最新观察:满血版卖不动了,市场抢食零散的中低端机型生意
本文聚焦DeepSeek一体机市场,上半年国央企等大客户采购高端机型需求旺,头部硬件厂商营收可观,中小厂商冷清。下半年高端市场饱和,中低端机型“游击战”开打,部分厂商用国产芯片降成本,部分有政府关系的新厂商入局。已售一体机落地难,需杀手级应用和用户数据。
社区供稿丨Jina-VLM:可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM,在多语言视觉问答任务达SOTA。它引入注意力池化,连接视觉与语言基座,处理问答等任务,对硬件要求低,多项测试表现优,还介绍架构、训练策略和上手方式。
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题,因错误使用`c10::Float8_e4m3fn`数据类型,未用硬件加速指令,通过软件调用致性能下降,现已修复,vLLM也应用此修复。
苹果不吹 AI,反而成功了?
北京时间9月10日苹果发布会,与iPhone 16发布时大肆宣传AI不同,此次重点在硬件及AI幕后支持。此前苹果对AI宣传过度致部分功能未推出引失望,且在智能体AI助手进展落后。多数人不因AI换机,给了苹果试错时间,但它在AI竞赛中落后,中国厂商布局更快。
新一代AI教师是什么样?学而思让它从L2「助手」跃迁至L3「老师」
在AI应用落地成关键的当下,教育成AI融合创新前沿。好未来CTO田密提出「AI教师L1 - L5分级」理论,指出当前AI老师达L2水平,L3正演进。学而思学习机的「小思AI一对一」迈向L3,依托硬件和自研大模型,结合优质内容,从可用走向可信。
OpenAI秘密矩阵曝光!你的所有设备,被Codex连成一台超级电脑
OpenAI将Codex升级为「超级控制平面」,可控制所有安装该应用的桌面设备,将其连成Codex网络。它有远程控制、多机上下文共享等功能,还能在锁屏时工作,但存在安全隐患。
HAMi 2.7.0 重磅发布 | 异构芯片全面拓展,调度更稳、生态更强
Dynamia密瓜智能宣布发布HAMi 2.7.0版,在硬件生态、调度器、应用层生态等方面有显著进展。硬件上支持昆仑芯、燧原、AWS等芯片;调度器优化了资源计算和可观测性;应用层与vLLM、Xinference等整合。
CNCF 孵化用于 Kubernetes 边缘计算的 OpenYurt 项目
云原生计算基金会(CNCF)宣布 OpenYurt 加入其孵化项目名单。该开源平台由阿里巴巴 2020 年创建,将 Kubernetes 扩展到边缘计算环境,保持与上游 API 兼容,能减少延迟、提高可靠性。
谷歌照片新增AI功能,可将不同风格照片变成视频
谷歌在官网宣布,谷歌照片推出新AI功能,可将照片转换为视频或重新混合成不同风格,如动漫、漫画等。操作简单,还推出新创建标签页集中工具,且添加水印和安全措施。