「API 测试」共找到 2113 篇相关文章
Life of a Token：像调试代码一样看懂大模型如何生成 Token
文章类比 Chrome 的 Life of a Pixel，追踪 LLM 里 token 从输入到输出的全程。以 GPT - 2 Small 为例，详细讲解其管线各阶段，如 Tokenization、Embedding 等，还介绍了残差流、KV Cache 等概念及 GPU 性能瓶颈和优化方法。
Claude Opus 4.7 发布！留给人类的时间，不多了
Anthropic 发布 Claude Opus 4.7，核心升级是让 AI 跑长且复杂任务，还能自我验证结果。它视觉能力超强，编程能力提升，新增 /ultrareview 功能，API 多了调节档，不过 token 数量或增加，成本可能上浮。
DeepSeek 推出快速模式和专家模式
DeepSeek web 端灰度测试快速模式和专家模式，快速模式用于日常会话，专家模式适合复杂任务，但不支持文件上传，上下文仅 128k。目前两模式能力与 v3.2 没差别，或为 v4 做准备。
清华、西交联合开源发布了Cheers : 一条更简洁、更高效的统一多模态路线
清华、西交联合开源发布CHEERS，提出面向统一多模态理解与生成的架构路线，在保持系统简洁前提下，统一理解与生成任务，继承开源预训练模型知识，在多项基准测试中表现优异，还实现4× token压缩。
突发！OpenAI关停Sora
OpenAI彻底退出视频生成业务，关闭App和API，ChatGPT视频功能也没了，迪士尼10亿美元合同作废。Sora研究团队转向机器人方向。原因是Anthropic靠文字和代码实现高营收，而Sora营收不佳且消耗算力。
Google Gemini Embedding2：一个模型处理所有媒体类型
Google发布Gemini Embedding 2，首个原生多模态嵌入模型。能处理文本、图像等多种媒体类型，支持交错输入，覆盖超100种语言。与多模型串联方案比，延迟降70%、召回率升20%。已可在Gemini API等使用。
CL-Bench的故事没有结束，生成式CL-Bench：GENIUS来了
北大团队发布GENIUS，用于评估模型生成式流体智力。它构建含510个样本、20个子任务的评测集，测试模型多方面能力。实验显示当前模型流体智力有短板，还提出免训练注意力校准机制提升性能。
视频字幕处理开源神器
卡卡字幕助手（VideoCaptioner）操作简单，无需高配置，支持 API 和本地离线语音识别，利用大语言模型处理字幕。它支持多平台视频下载处理，有专业语音识别引擎，能智能纠错、高质量翻译、调整字幕样式。
32k微调处理百万Token：21倍的推理加速，10倍的峰值显存节省，实现恒定内存消耗
现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构，有双轨并行记忆系统，能恒定内存、线性时间处理文本，在基准测试超主流方法，实现21倍推理加速和10倍显存节省。
我烧了上亿token玩Clawdbot，结果发现国产平替更香，还免费。
作者花上亿token研究Clawdbot，发现其虽火但贵，Cowork也因收费和网络限制被盖过热度。作者转而探寻国内平替，介绍阿里云上线Moltbot云服务，重点推荐阿里QoderWork，测试后认为它是能打的免费平替。