「免费token」共找到 1041 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
天下苦CUDA久矣，又一国产方案上桌了
AI开发中，国产硬件增多，但开发者仍依赖进口生态。KernelCAT作为国产AI Agent应运而生，它能开发高性能算子，在昇腾芯片测试中表现出色，还能助力模型在国产平台高效迁移，限时免费内测。
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
PolarDB AI助手：自然语言驱动的智能数据库运维新范式
企业数据库运维复杂度高，专业人才稀缺成瓶颈。阿里云PolarDB推出AI助手，基于大语言模型与专家知识库，有智能问答等核心能力，以自然语言交互降低使用门槛，提升运维效率与系统稳定性。
Nature重磅预警：ChatGPT切走教育主权，学生大脑或将重构？
AI正以“教育革命”之名占领全球校园，如清华新生用AI助理报到，加州州立大学接入ChatGPT Edu，Google向学生免费开放Gemini。但这悄悄重写权力格局，让教育主权面临挑战，引发诸多思考。
LightMem用3招重新设计了LLM的记忆，结果出乎意料
LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。
快手Klear团队提出CE-GPPO：通过梯度保留协调熵，解决强化学习中的熵不稳定问题
快手 Klear 语言大模型团队提出新强化学习算法 CE - GPPO，以「熵」为核心，提出梯度保留策略，重新利用裁剪外区间低概率 token 的梯度，实现策略熵的精细调控，解决强化学习中熵不稳定问题。
快手进军AI编程！“模型+工具+平台”一口气放三个大招
AI编程竞争激烈，快手发布AI编程产品矩阵进军该赛道。其“三位一体”矩阵含顶尖自研模型、智能开发工具和MaaS平台，KAT - Coder - Air轻量版免费。各产品亮点多，助力构建AI编程新生态。
超越GPT-4o和Gemini 2.5！小米MiMo-Audio音频大模型真香
小米推出MiMo - Audio大模型，预训练数据超1亿小时。它在多个基准测试成开源7B模型SOTA，开放相关资源。分词器表现佳，有全新架构，在音频理解、对话、推理等方面表现出色，还集成TTS功能。
DPad: 扩散大语言模型的中庸之道，杜克大学陈怡然团队免训推理加速61倍
扩散大语言模型（dLLMs）有全局规划能力，但存在计算冗余。杜克大学陈怡然团队揭示其“草稿纸机制”，提出免训练方法DPad，结合现有技术，能在几乎无损精度下实现高达61.4倍推理加速。