「长文本模型」共找到 8027 篇相关文章
大语言模型高考数学拿高分靠强化学习，那文科考高分得靠什么？
大语言模型在高考数学拿高分靠强化学习，但文科题无标准答案，此方法行不通。豆包1.6系列高考文科全科获683分，靠训练数据、思维链、长上下文和多模态直接读图等因素。
刚刚！Kimi Linear横空出世，全新注意力架构：1M长文本解码速度飙升6.3倍，KV缓存砍掉75%
月之暗面推出全新注意力架构Kimi Linear，有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈，性能超传统机制，还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率，实验表现佳。
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。
中科院甩出多模态“核弹”！类GPT-4o多模态模型开源！支持语言-视觉-语音任意组合交互！
中国科学院计算技术研究所（ICTNLP）开源类GPT - 4o多模态模型Stream - Omni，支持文本、视觉和语音任意组合交互，核心是高效模态对齐技术，少量多模态数据即可训练，有多种使用场景。
一图胜千言被实现了！DeepSeek-OCR用图片压缩文本，10倍压缩率
DeepSeek开源DeepSeek - OCR，用图片压缩文本达10倍压缩率且几乎不丢信息。它解决了以往视觉编码器的问题，架构清晰，数据丰富，性能测试亮眼，为解决大模型‘记性差’问题提供新思路。
拆解 Claude 5.1：38 小时不睡觉的背后，Anthropic 正在终结「模型论」
Anthropic 更新 Claude 5.1，推出 Fable 5.1 和 Mythos 5.1，将‘智力’与‘权限’物理剥离。前者负责通用任务，后者面向专业场景。此次更新展示模型解决长时任务状态一致性等问题的能力，还体现了能力权限分离等变化。
阿里“快乐马”团队再出手！正面叫板谷歌 Genie 3，世界模型 HappyOyster 来了
4月16日，阿里发布世界模型产品HappyOyster，由ATH创新事业部团队研发。它与谷歌Genie 3同属世界模拟器流派，采用长跨度世界演化建模，有漫游和导演两大核心能力，在多方面呈现差异化优势。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
LLM内部竟藏着众多策略模型？自所&腾讯团队首次揭示大模型RL新机制
中国科学院自动化研究所与腾讯AI Lab团队，从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上表现优于传统算法。
懂方言，通诗词，精通30国语言，阿里发布语音识别大模型Fun-ASR1.5
阿里发布语音识别大模型Fun - ASR1.5，可精准识别30种语言，覆盖中文七大方言体系及二十余种地方口音，强化古诗词诵读专项识别，后处理环节优化标点预测和文本归一化，降低人工成本。