算法论文8

秦浩桐：用极限量化破解大模型小设备难题

AI科技评论2026-08-18

AI 摘要

秦浩桐：大模型规模与硬件内存有20倍算力鸿沟，需改变模型数据表示方式。其团队用BiLLM和SqueezeLLM将模型压缩至1比特与2比特，还指出低于2比特量化的三大挑战待攻克。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

NovaSilicon：造芯瓶颈在组织而非工具

NovaSilicon发表论文探讨超级智能在芯片领域的运用。随着芯片复杂度提升，传统EDA方法遇瓶颈，论文提出将芯片设计超级智能建模为AI组织，利用LLM等技术，重塑芯片设计行业，实现产业链智能化升级。

OpenAI公布自研推理芯片Jalapeño（墨西哥辣椒）测试结果，它专为大语言模型推理设计，能同时提升吞吐量和降低延迟，在多模型测试中超NVIDIA系统。该芯片与Cerebras合作，计划2026年底部署。

15家机构联合发布图工程系统性综述，指出此前“XX工程”范式多优化单个智能体，而图工程能将智能提升到系统层面。论文还指出图工程语义局限，认为本体工程可作下一代系统智能语义地基。

RSI成人工智能前沿方向，芯片设计因有确定性验证体系，成其率先落地赛道。NovaSilicon完成融资，探索出芯片设计智能系统，发表论文介绍构建运行方法，将重塑行业。