「长文本训练」共找到 2941 篇相关文章
一种基于滑动层合并的高效深度修剪大模型的方法
文章指出深度修剪可加快推理速度，但直接丢层会降低性能。为此提出滑动层合并法，根据相似度阈值融合连续层，简化结构且保持性能。实验显示该方法优于现有技术，还揭示了与宽度修剪结合的潜力。
无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab
多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。
香港科技大学、Manycor开源空间大模型，超3000颗星
香港科技大学、Manycore联合开源空间大模型SpatialLM，用于处理3D点云数据。它结合点云特征提取、对齐和语言生成，实现高效转换。研究团队经多种尝试选定基于点的方法及Sonata编码器，还选Qwen2.5 - 0.5B为基础模型。
谷歌AlphaGenome横空出世！40亿年生命代码一键破解，或再夺诺奖
谷歌DeepMind发布AlphaGenome，可一次读取100万个DNA碱基，预测基因突变。它以长DNA序列为输入，预测数千种分子特性，克服了现有模型在序列长度和分辨率间的取舍问题，有望推动生物学研究和新疗法诞生。
0%通过率！Code神话泡沫！LiveCodeBench Pro发布！
国际算法奥赛金牌得主团队测试20个顶级大模型，在584道编程赛题上，高难度题目AI通过率为0%。论文发布LiveCodeBench Pro评测方法，揭示AI编程能力神话泡沫，指出其问题并给出提升方向。
大概念模型：AI 推理的新范式
大概念模型（LCM）是自然语言处理新范式，侧重结构化推理和理解，与 LLM 不同。它依赖结构化知识，可模拟专家思维，解决当前 AI 缺陷，文章还介绍其架构、应用、局限，探讨与 LLM 结合的未来发展。
实测对比！扣子空间播客功能完爆 NotebookLM，覆盖场景更大
多模态是大模型热门应用概念，文本生成语音赛道受资本青睐。作者实测对比扣子空间和NotebookLM，发现扣子空间播客功能更优，能精准拿捏尺度，覆盖场景大，还能做旅行攻略、生成网站等。
实测惊艳全球的Veo3！音画同步无敌，贵是有原因的
谷歌开发者大会推出的Veo3模型，具备强大文本和图像转视频能力，首次实现视频与音频同步生成。实测中，它生成的视频音画效果惊艳，但也有翻车情况，谷歌还给出提示词编写指南。
OpenAI自曝：AI推理砸钱越多，碾压人类越狠！
OpenAI研究员探讨推理模型时代。Noam Brown强调预训练和推理范式，指出当前AI胜在通用性。推理范式成本低、效果好，如o系列模型表现出色。首席经济学家谈AI经济影响，称其重塑企业格局。
图灵奖得主杨立昆现场追问：AI 还没越过这 3 道认知墙，谈什么通用智能？
图灵奖得主杨立昆指出AI未越过三道认知墙，即看不懂物理世界、无长时记忆、无推理结构，提出JEPA架构及AMI概念，还建议别卷模型，应卷架构，如探索具身智能等领域。