「位宽量化」共找到 527 篇相关文章
赛博义父Tibo爆料：谷歌早一年就做出了ChatGPT，硬是没敢发！
OpenAI的Codex负责人Tibo爆料，谷歌早一年做出类似ChatGPT的LMChat，但因怕冲击搜索业务没敢发。谷歌多位核心人才跳槽，这就像施乐错过图形界面，谷歌在AGI竞争中落后。
2026年，AI初创全球化的「变与不变」｜沙龙招募
当OpenClaw掀起开源浪潮、Agent应用频现，AI团队面临全球化命题。量子位将发起出海沙龙，聚焦出海早中期决策与路径，招募全球化实践者、参与者和投资机构，设置多环节交流。
一等奖20万，大佬们出题，最硬核视频生成全球挑战赛开启！
首个AI视频生成全球挑战赛来袭，多位大佬发起，20万大奖待拿。大赛聚焦AI视频生成「一致性」挑战，设主赛道和创意赛道，分别面向技术派和创作者，旨在推动视频生成技术发展。
深度拆解 Muse Glimmer，24GB 显存跑 30B Agent，Meta 到底做了什么？
昨天，Meta发布约30B参数的多模态Agent模型Muse Glimmer，支持128K级上下文。它采用Apache 2.0许可证开放，有量化版本等。其技术设计围绕显存、上下文管理等问题展开，在多方面做了取舍。
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
同一天两件大事！小模型直接掀翻千亿参数，走向效率为王
5月13日AI圈有两件大事，何恺明团队发布语言模型ELF，面壁智能开源MiniCPM-V 4.6。二者显示AI正从‘堆算力’转向‘省算力’，拉开AI轻量化浪潮序幕，未来小模型或成关注方向。
AI做出的科学发现，谁来证明它是对的？
本文整理自PAIR Conference 2026下一代科学发现论坛圆桌讨论，多位跨学科青年学者围绕AI科学发现结果的验证难题，从不同领域验证成本、方案设计、失败排查等维度展开深入探讨。
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
用SFT打出RL的效果？微软联合提出高效后训练算法
大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。