「端侧设备」共找到 337 篇相关文章
纯血国产！4B模型越级打怪，杀入万亿赛道
9月1日，Hugging Face上线星火X2.5-4B和1.7B开源端侧模型，在多指标测试中表现优异，实现“越级打怪”。该模型基于全国产算力平台训练，在断网笔记本上实测效果惊艳，使用了两项技术提升能力，适配性强。
AI让4岁自闭症孩子首次开口，一名工程师爸爸用两小时代码打开儿子声音
一位国外AI工程师花两小时为自闭症儿子做沟通App，让孩子首次开口表达。传统AAC设备贵且无教学和追踪功能，该App内置相关功能，核心是将抽象变具体，正完善后供其他家庭试用。
疯了……Claude 最强风控：验你实名身份证！
Anthropic更新支持文档，宣布在Claude平台引入身份验证机制，目的是防滥用、执行政策和履行义务。验证需有效证件、带摄像头设备，由Persona Identities处理数据。此前OpenAI也有类似机制，这或加剧AI使用人群分化。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
把20亿参数装进胸针？高通补齐了个人AI生态的最后一块拼图
在MWC巴塞罗那展会上，人们渴望专属AI智能体。高通认为AI须进驻微型载体，推出骁龙可穿戴平台至尊版，将AI运算能力延伸到微型设备，其还构建以用户为中心的生态，让私人助理融入生活。
一人干翻所有大厂！OpenClaw硅谷封神，开发者一夜爆赚两亿
OpenClaw之父成硅谷英雄，其在YC访谈揭秘爆款AI背后故事。开发者用它结合TikTok实现财富暴增。Peter Steinberger称未来80%App将被取代，OpenClaw可本地运行，能连接设备，且记忆存本地，夺回数据主权。
AutoGLM 2.0 深度解析：云端智能体的技术跃进与现实挑战
2025 年 GUI Agent 赛道升温，多数产品依赖本地执行。智谱 AI 在 8 月 AutoGLM 2.0 闭门交流会上展示新路径，其由国产模型驱动，具多能力，在 Agent 云端执行架构、训练方式等方面有突破，也面临一些挑战。
刚刚，OpenAI开源2个推理模型：笔记本/手机就能跑，性能接近o4-mini
OpenAI深夜开源gpt-oss-120b和gpt-oss-20b推理模型，距上次开源已6年。模型亮点多，性能强，在多方面表现超专有模型。官方还放实测视频，展示其使用效果，同时解释了开源原因。
图像界的DeepSeek！12B参数对标GPT-4o，5秒出图，消费级硬件就能玩转编辑生成
Black Forest Labs开源旗舰图像模型FLUX.1 Kontext[dev]，专为图像编辑打造，能在消费级芯片运行。12B参数少、推理快，性能媲美闭源模型。有诸多特点，经优化训练，在KontextBench基准表现优。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。