「Token设计」共找到 1929 篇相关文章
Qwen3深夜开源新系列：文本表征模型，3种尺寸可选，超越商业API拿下SOTA
Qwen3深夜上新Embedding系列，专为文本表征等任务设计，在Qwen3基础模型上训练，有0.6B/4B/8B三种尺寸，8B版本在MTEB榜单排第一，性能超商业API，已在多平台开源。
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解析
文章围绕LightLLM中DeepSeek V3/R1的Two MicroBatch Overlap实现展开。介绍了该技术原理，通过拆分推理过程、精心设计执行顺序实现计算与通信重叠。还阐述了数据结构设计、预处理、核心执行流程，以及优化策略和配置启用方式。
智谱清言微服务架构转型实践——基于 CloudWeGo 的技术演进
本文由智谱清言资深后端开发工程师肖文彬整理，阐述其从单体架构到微服务体系的转型实践。随着业务发展，传统单体架构显瓶颈，智谱清言开启转型，分享挑战、架构设计、技术选型等经验，为相关团队提供借鉴。
做出ChatGPT核心研究的人今天掀桌：大模型搞不定自动化，新架构提速200倍且输出免费
前OpenAI ChatGPT核心研究员Diogo Almeida，研发两年推出专为业务自动化设计的全新模型Jev，新架构速度比传统大模型提升最高200倍，输出免费，从底层根除类型错误与幻觉，成本远低于主流大模型，已开放早期预览申请。
深度解读 DeepSeek V4.1 Flash 全新架构，如何成为显存杀手
本文深度解读DeepSeek最新发布的V4.1 Flash大模型，详解其全新CED架构与第二代压缩稀疏注意力CSA2，揭秘其通过架构创新大幅压缩KV缓存、降低显存算力成本，在长上下文Agent场景实现性能反超的细节。
Qwen3.8-Flash：全新架构，更强更稳更划算
本文介绍了 Qwen3.8-Flash 多模态 MoE 模型，它原生支持 262,144 token 上下文。该模型在 Attention、Residual、Embedding 与 Optimization 四个方面系统升级，降低训练与推理成本，即将上线千问 AI 平台。还发布了 Qwen3.8-Flash-Next 开源权重。
AI能否独立开展科研？ASI-Bench为科学自主性建立评测标尺
ASI-Bench是衡量AI系统科学自主性的基准测试，由多机构联合开发。它能测试AI通用智能、创新性和执行力，通过信息梯度设计，让模型在不同指导量下完成科研任务，结果显示当前AI离自主科研有明显距离。
Fable 5手搓首个CUDA「超级内核」！2.5小时狂飙18.7倍
在GPU算子基准测试KernelBench - Mega中，Fable 5全程纯手搓CUDA，速度狂飙18.7倍，把GPT - 5.5甩开4倍多。它写出史上首个‘超级内核’，2.5小时约55万token完成编写。Anthropic联创称这标志‘RSI循环’开启。
全球医疗榜第一，中国AI杀疯了！医疗AI迈入Harness时代
火爆的Harness架构在医疗圈落地，智诊科技发布面向医疗健康行业的Agent OS平台WiseClaw 2.0。它以健康档案为核心，有三层流水线等设计，适用于多场景，且在模型、中层能力和上层治理有优势，还获融资加速发展。
实测！DeepSeek V4-pro是第一个接近Claude开源模型，前Meta研究员震惊
DAIR.AI创始人、前Meta AI研究员Elvis用DeepSeek - V4 - Pro在Pi框架搭LLM知识库，该模型开箱即用，完成知识密集型多步研究任务表现出色，在开源模型里Agent编程和推理能力强，架构设计让推理快且成本低。