搜索：预训练语言模型

「预训练语言模型」共找到 8253 篇相关文章

大神Karpathy都投的AI实时视频生成模型：直播都能立即转，无限时长几乎零延迟

AI初创公司Decart推出首个零延迟无限实时视频生成的AI模型MirageLSD，大神Karpathy都投资了。它能实时生成视频流，无时长限制且延迟低至40毫秒以下，还攻克了传统模型‘误差累积’难题。

DAIR.AI创始人、前Meta AI研究员Elvis用DeepSeek - V4 - Pro在Pi框架搭LLM知识库，该模型开箱即用，完成知识密集型多步研究任务表现出色，在开源模型里Agent编程和推理能力强，架构设计让推理快且成本低。

IJCAI 2026大会上，秦浩桐给出创新解法，挑战无需重训的“后训练量化”极限，将庞大的LLM强行压缩至极端的1比特与2比特。其团队的BiLLM与SqueezeLLM打破了后训练量化魔咒，还指出极低比特量化的三大挑战。

约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间。此研究为神经网络参数空间“通用性”提供严谨实证，虽成因待探索，但意义深远。

上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分，还在多方面探索模型加速，成果已开源。张林峰认为数据蒸馏会成模型压缩趋势，也分享了知识蒸馏阶段看法。

神秘模型「牛来」真身曝光，是智谱刚开源的 GLM - 5.3 Flash，为 5 系列首个原生多模态模型。它尺寸小能力强、价格低，用国产卡，实测多模态和 Coding 能力出色，架构全新，开源后将模型、算力和生态结合。

本文从中兴通讯无线研究院「大模型深潜」团队切入，介绍了首创的「LLM自适应题目难度蒸馏」方法，该方法围绕「模型 - 数据动态匹配」提出了一条完整的CoT构建流程，显著提升了长CoT语料的质量。

7月26日，上海AI实验室在WAIC 2025上发布并开源『书生』科学多模态大模型Intern-S1。它首创‘跨模态科学解析引擎’，在多学科专业任务上超越顶尖闭源模型，多模态综合能力领先主流开源模型。

AI 写码成常态，编程语言选择更重要。创业者 Armin Ronacher 指出语言权衡需重审，会影响 Agent 代码质量。他认为 Go 在 AI 场景合适，公司绕不开 Python 和 JavaScript。还分析多种语言特点、适用场景及 AI 对编程的影响。

近年来，VLA模型成通用机器人控制重要路线，但模型大、动作更新慢的矛盾凸显。华中科技大学联合华为提出TurboVLA，绕开大语言模型，形成V+L→A路径，降低成本，保持操作能力。