搜索：OpenAI 兼容模型

「OpenAI 兼容模型」共找到 8776 篇相关文章

万字长文！大模型LLM推理优化技术总结

文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。

OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。

文章围绕大语言模型后训练阶段的强化学习算法展开。介绍了OpenAI的RLHF、DeepSeek的GRPO，重点指出Qwen团队发现GRPO有稳定性问题，会致模型崩溃，进而提出新算法GSPO，实验显示其效率和可扩展性更佳。

OpenAI与Retro Bio合作开发的GPT‑4b micro，是专为蛋白质工程设计的GPT-4o微型版本。它改进诺奖获奖蛋白变体，将干细胞重编程标记物表达量提升50倍，还能减少DNA损伤，研究团队公布更多突破细节。

MMAR基准测试对30款音频相关模型进行测试，结果显示，多数开源模型面对复杂音频推理任务远未达实用水平，音乐任务中所有模型表现不佳，且有显式推理能力的模型表现更优。

谷歌推出首个原生多模态嵌入模型Gemini Embedding 2，通过Gemini API和Vertex AI公开预览。它将文本、图像等映射到统一向量空间，支持多模态交错输入，性能超越现有领先模型，开发者可快速接入。

本周二，刚被SpaceX收购的Cursor在首届旗舰大会宣布新的1.5万亿+参数模型，在超10万块GPU预训练。Cursor CEO称其规模与Opus、GPT相当，还谈了对其他AI实验室看法，新模型将几周内发布。

今天凌晨，OpenAI正式发布GPT - 6 Astra。它多项跑分逼近满分，OpenAI总裁称其或意味着AGI时代开始。该模型在多方面能力领先，安全措施升级，将在‘未来几天’面向部分用户推出。

Poe最新报告显示，2025年1 - 5月AI各领域市场份额大洗牌。OpenAI和谷歌势头猛，Anthropic掉队。文本生成、推理、图像等各领域竞争激烈，企业需搭建评估体系，按需选模型。

近年来大语言模型参数膨胀，成本升高，业界重注小语言模型。近日，Boss直聘南北阁大模型实验室发布仅30亿参数的Nanbeige4 - 3B，在多方面媲美甚至超越通义千问Qwen3系列模型，开源印证小模型潜力。