「量化误差」共找到 244 篇相关文章
AMD跑GLM 5.2，成本只要英伟达一半
推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。
一个中大型组织到底需要怎样的AI办公，这场闭门会说清楚了
今年初麻省理工报告指出企业AI投入大但多数试点难量化回报。6月9日金山办公举办闭门会，探讨企业级AI问题，指出其要过数据、知识、安全三关，还给出选场景、重数据等判断。
Rokid火得太晚了
消费电子市场中AI眼镜迎曙光，乐奇Rokid成AI+AR品类全球销冠。它通过双目衍射光波导和双芯片架构解决轻量化与续航难题，还以开放生态脱颖而出，其判断未来眼镜将成交互主体。
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
Anthropic重磅新研究：当AI采访了1250人，它看见了人类的「职业软肋」
Anthropic推出Interviewer工具，与1250名职场人、创作者、科学家深度对话，记录细节并量化。该工具能自动完成访谈、分析等流程，受访者满意度超97%。研究揭示不同职业对AI态度受职业结构等因素影响。
学生3年投稿6次被拒，于是吴恩达亲手搓了个评审Agent
机器学习大佬吴恩达为投稿屡被拒的学生，做了免费AI论文评审智能体。它在ICLR 2025审稿数据训练，与人类审稿相关系数达0.42，能按会议风格评审，还提修改建议，可体验。
TinyAI ：全栈式轻量级 AI 框架
TinyAI是用Java实现的全栈轻量级AI框架，具有教育友好、模块化等特点。它分层设计，涵盖数学运算、神经网络等模块，支持多种模型架构与并行训练，还有智能体系统，可用于多领域，未来规划丰富。
Jina Reranker v3: 全新“列式”重排器，0.6B参数刷新文档检索SOTA
Jina AI推出第三代重排器Jina Reranker v3，在多语言检索基准上刷新SOTA。它参数仅6亿，有“last but not late”交互机制，能一次性处理查询和文档。还提供动态量化格式，方便不同硬件部署。
Jina Code Embeddings: 为高质量代码搜索而生的0.5B/1.5B向量模型
本文介绍了 Jina AI 开源的代码向量模型 `jina-code-embeddings`，含 0.5B 和 1.5B 规模，有 GGUF 量化版本。它性能顶尖，支持多任务与 15 种语言，还介绍了训练方案、使用方法等。
轻量级易开发，8B参数释放大实力！科学多模态模型Intern-S1-mini开源
上海人工智能实验室继7月26日开源后，推出轻量化版本Intern-S1-mini。它是8B参数“迷你模型”，兼具通用与专业科学能力，适合快速部署和二次开发，在多方面表现出色，还降低了对高端计算设备依赖。