「Token压缩技术」共找到 3629 篇相关文章
断网可用！首款全双工全模态大模型技术报告发布，附一键安装包
面壁智能等联合发布MiniCPM-o 4.5技术报告，它是业界首个端到端全双工全模态大模型，采用Omni - Flow架构。同步推出在线Demo、API、端侧安装包等，低显存GPU即可运行，性能表现优秀，应用潜力大。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
Agentic AI 要终结数据库和 SaaS？大厂掌门人公开互撕，焦虑的 CEO 们押上了不同的技术路线
2025年Agent成AI热词，科技巨头与初创公司纷纷布局。微软和Salesforce掌门人公开“互呛”，代表两种不同落地路径。前者主张通用框架，后者强调垂直集成。当前二者Agent均有落地，但面临技术、成本等挑战。
推理成本太高、算力不够用？单纯堆卡没用，得靠极致的“压缩”与“调度” | AICon
大模型落地面临推理成本高、算力需求大的问题。AICon大会上，阿里云刘峥、ModelTC龚睿昊、阿里巴巴马腾、OPPO宋晓辉、清程极智汤雄超等专家将分享从压缩到调度的推理优化方案，覆盖云到边缘、多算力平台。
智谱终于发布GLM-4.5技术报告，从预训练到后训练，细节大公开
上个月底智谱开源 GLM-4.5 及轻量版，成绩亮眼引热议。现其技术报告发布，详述预训练到后训练细节，还介绍了开源 RL 框架 slime，展示模型架构、训练阶段等，评估了在多任务上的表现。
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为诺亚方舟实验室联合中科大提出CBQ后训练量化方案，仅用0.1%训练数据实现大模型7倍压缩，保留99%精度。该成果登ICLR 2025 Spotlight，已加入昇腾ModelSlim工具包。
DeepSeek揭秘o1后，小红书似乎破解了o3的技术路线，还开源了~
OpenAI闭源后，大家不知其先进模型技术路线，解密成重要任务。DeepSeek R1年初开源后引发关注，小红书团队核心贡献的论文似破解o3谜题，还开源模型等，为训练调优提供可行路线。
别再纠结选哪个模型了，这个项目让它们一起干活！豪赠1亿token，羊毛薅起来！
元脑企智 EPAI 推出「多模融合」API，让多个模型围绕同一任务协同工作。经代码生成、财务分析等测试及权威评测，效果出色。还采取智能调度等策略，现限时申请可免费使用，豪赠1亿token。
为Token付费是一件很愚蠢的事情，用户应该为智能付费丨RockAI刘凡平@MEET2026
RockAI创始人刘凡平在量子位MEET2026大会提出，AI下一阶段要让模型“活起来”，实现硬件觉醒。他认为为Token付费愚蠢，应关注端侧智能，突破Transformer和反向传播算法，群体智能是迈向通用人工智能新路径。
智能体请求暴增9.4倍，token账单却没涨：Uber 公开AI软件工厂省钱方法
Uber 在 2026 年 AI 工程师大会分享软件工厂愿景。其 AI 工具嵌入开发各阶段，2 至 8 月智能体请求增 9.4 倍，成本稳定。介绍智能体会话四层、成本公式及优化手段，如选优模型、优化 token 等。