搜索：大模型私有化

「大模型私有化」共找到 9216 篇相关文章

vLLM 新特性：批量大小不再影响模型输出

vLLM 推出批量不变推理功能，解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致，技术实现含三部分，虽有性能开销但换来了结果确定性。

Addy Osmani分享《在谷歌14年得到的21条教训》，涵盖工程师工作多方面，如解决用户问题、达成共识、偏向行动、清晰表达等，对大厂工作者有指导意义。

过去三年扩散模型席卷图像生成领域，但可解释性研究是‘黑箱’，且现有尝试常致性能下降。香港中文大学与上海人工智能实验室团队提出TIDE框架，可解释且不降质，还带来新图像编辑方式。

2月7日深夜，OpenRouter悄悄上线匿名模型Pony Alpha，其编程、推理等体验出色，外网瞬间疯传。全球开启‘猜爹大赛’，Claude、DeepSeek、Grok、GLM各派开吵，还凸显了‘匿名盲测式发布’新打法。

未来迈向AGI需多模态AI系统。南大等联合发表综述，涵盖754篇文献。分析传统路线痛点，介绍统一多模态模型定义、技术路线、训练方法等，还提及应用场景及未来方向。

2026年8月AI圈组织架构调整频繁，阿里、字节整合多款产品，腾讯、百度也有动作。办公Agent成大厂混战核心，虽有产品被整合，但各厂优势不同，终局难测。

阿里云百炼最新翻译模型Qwen-MT开放，有支持多语言互译、提供专业功能、轻量级架构等亮点。实测显示其响应快、回译准确、能调风格，200字文本仅需2.5秒。

vivo AI Lab团队针对自动手语翻译生成中，无视觉证据支撑的错误累积导致语义偏移的痛点，提出置信度感知策略优化方法CAPO-SLT，仅调整强化学习更新规则，不修改主干网络，在中文手语翻译测试中拿下三项指标最高分，成果将发表于EMNLP'26。

2025年AI Coding赛道上，TRAE是国产AI IDE代表作。7月其SOLO Beta版反响好，如今正式版全量推送。它定位为‘具备响应感知的编程智能体’，新增功能，还限时免费体验，实测显示开发能力强。

现代AI系统学习新任务时会灾难性遗忘旧知识，限制其持续学习能力。麻省理工学院研究者对比SFT和RL后发现，相同性能下RL更不易遗忘，提出遗忘定律，解释了RL优势源于其on - policy特性。