「大模型部署」共找到 9446 篇相关文章
成本不到8千美元！新浪微博1.5B小模型超越近万亿参数模型
新浪微博开源的VibeThinker - 1.5B模型，仅15亿参数、训练成本不足8000美元，却在顶级数学竞赛基准击败近万亿参数模型。它采用频谱到信号原则，分两阶段训练，性能出色，成本低且数据无污染。
传统云还在「卖铁」，下一代云已在「炼钢」：火山引擎xLLM如何一张卡榨出两张的性能！
大模型上线部署时推理成本高、算力投入大但效果不成正比，企业面临推理效率难题。火山引擎 xLLM 大语言模型推理框架性能极致，成本低，集成关键创新，还被集成到 AI 云原生推理套件 ServingKit 中。
从文心开源谈起，论大模型发展新生态
6月30日百度宣布开源ERNIE 4.5即文心4.5系列模型，实现预训练权重+推理代码完全开源。文心团队提出创新架构，增强多模态理解能力。今晚7:30，CSDN邀专家深度解读文心开源及行业趋势。
1B参数，0.21秒识别，0.3%错字率：混元OCR拿下7项SOTA
腾讯开源模型 HunyuanOCR 在权威榜单 OmniDocBench 上霸榜，虽仅 1B 参数，却在 7 项任务击败众多大模型。它解决传统 OCR 流水线及通用大模型痛点，通过独特架构和训练方法实现高效准确识别。
Unsloth发布Qwen3-VL本地运行和微调指南，修复隐藏bug
Unsloth团队修复Qwen3-VL系列模型聊天模板语法问题，重新上传GGUF量化文件，使模型可本地稳定运行。介绍了不同规格模型硬件需求、表现，给出部署步骤、参数差异，还展示多模态能力测试，提供多种格式模型及微调工具。
720美元套出A社死藏的Opus原始思维链，还是Haiku泄露的，GPT/Gemini也中招
研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。
从高考到实战，豆包大模型交卷了
火山引擎原动力大会 Force 2025 发布豆包大模型 1.6 等多项新产品。豆包 1.6 性能提升，在多方面表现出色；Seedance 1.0 Pro 视频生成能力强。大会强调‘AI 云原生’，还推出多个套件和技术进展。
OpenAI公开新的模型训练方法：或许能解决模型撒谎问题，已在GPT-5 thiking验证
OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。
虚拟智库：运用大语言模型获取多元视角
本文探讨如何用大语言模型（LLM）构建虚拟智库。以电商系统架构决策为例，通过让 LLM 扮演不同角色，如 Martin Fowler、David Heinemeier Hansson 等，从多元视角讨论微服务架构利弊，为架构决策提供参考。
Nano Banana不及格，开源模型一分难求！上海AI Lab新基准直击文生图模型痛点
上海人工智能实验室等联合发布首个多学科文生图考试基准GenExam，覆盖10学科、1000题。实验显示，GPT - 4o严格评分正确率仅12.1%，开源模型接近0分，暴露出模型在专业场景的短板。