「端侧设备」共找到 348 篇相关文章
挑战 1 比特！ETH Zürich 秦浩桐：如何把大模型「塞进」小设备？| IJCAI 2026
IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。
苹果端侧AI两连发！模型体积减半、首字延迟降85倍，iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」，首字延迟压到竞品1/85；后者突出「轻」，体积减半。模型和Demo已开放，开发者可集成开发。
推理快30%，性能超过千亿参数模型，15B模型Apriel-1.6重新定义端侧推理
ServiceNow人工智能团队发布的Apriel-1.6-15b-Thinker，以150亿参数体量，多模态推理能力强，推理Token消耗降超30%。它在AI分析指数成绩佳，优化计算成本，还介绍了训练策略与多维度性能实测情况。
谷歌推出Googlebook：为Gemini重新造一台笔记本
谷歌宣布推出全新笔记本产品线Googlebook，专为Gemini AI打造。它融合Android和ChromeOS体系，有Magic Pointer等新功能，与Android手机协作顺畅，还新增Quick Access功能，首批设备由多厂商合作生产，今年秋季发布。
苹果放王炸！开放大模型访问权、全家桶集成ChatGPT，人人能开发AI应用
苹果在“WWDC 2025”大会宣布在多设备集成Apple Intelligence功能，含ChatGPT图像生成等。开放基础模型访问权，开发者可开发适配应用。新功能将逐步开启测试，今年秋季部分用户可用。
本周 5 个超酷 GitHub 开源项目，实用到飞起！
本文介绍本周5个超酷GitHub开源项目。有显示苹果设备电池状态的AirBattery，开源卫星可视化平台keeptrack.space，本地图片压缩工具Pic - Smaller，跨平台端口助手Port - Killer，轻量级AI证件照工具HivisionIDPhotos。
模型压缩与量化：让大模型走向轻量化落地
文章介绍模型压缩与量化技术，其能在保持性能时降低大模型计算和存储需求，实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景，并探讨未来发展方向。
The Batch: 897 | 科学实验室的通用语言
上海人工智能实验室发布开源的 Science Context Protocol (SCP)，它能连接 AI 智能体与多设备进行自动化科学探究。相比 MCP，其结构更安全，可管理模拟和实体实验，促进跨学科合作。
深度｜AI开始接管物理世界，谁来掌握新的入口？
本文为深度行业分析，围绕Anthropic推出的模型硬件标准MHS展开，探讨AI从虚拟屏幕切入真实物理世界、接入实验设备的产业进程，梳理核心挑战与未来竞争格局。
给优秀实习生期权！刚刚，一项面向AI顶级人才的「面壁计划」启动了
面壁智能发布「前进四」顶尖人才计划，面向优秀实习生，符合条件者毕业前可提前获期权。该公司过去一年成长迅速，提前押注端侧、首创「密度定律」且坚定开源，成果丰硕。