「长文本训练」共找到 2928 篇相关文章
模型越聪明越“不听话”？MathIF基准揭示AI服从性漏洞
上海人工智能实验室与香港中文大学研究团队发布论文，用MathIF基准揭示大模型“聪明”和“听话”有矛盾，越擅长推理越易忽略指令，还分析了原因并给出让模型更“听话”的方法。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。
中国AI创业者重登GTC舞台：杨植麟用技术语言讲了一个智能上限突破的浪漫故事｜甲子光年
美国当地时间3月17日，月之暗面（Kimi）创始人杨植麟在英伟达GTC演讲，介绍Kimi技术路线图。他提出开源模型要出色，给出Token效率、长上下文、智能体集群三个概念，还探索了未来架构，且将创新开源。
AI助手Cici悄然霸榜海外，又是字节
AI智能助手领域有新玩家，字节跳动的Cici在多个国家应用商店霸榜，数月内下载量爆发式增长。它融合字节旗下技术，文本生成用到OpenAI、谷歌模型。同时，豆包在国内AI智能助手赛道全维度领先。
深刻理解Token：大语言模型（LLM）是如何看待这世界？
文章指出在大语言模型（LLM）中，Token是处理文本的基本单位。介绍了Token的概念、分词方法、向量化过程，还阐述了分词对模型性能的影响，如导致模型在数学、多语言处理上表现不佳等。
叫板 OpenAI Sora？Manus 推出文生视频服务，计划向所有用户开放
近日，Manus AI 推出文本转视频生成服务，支持单条提示完成视频制作，目前供部分订阅用户抢先体验，计划向所有用户开放，对标 OpenAI Sora 等竞品。其母公司获投资，还与微软合作，系统有独特优势。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
比肩Claude Opus：阶跃星辰最强模型Step 3.5 Flash发布
阶跃星辰发布最强模型 Step 3.5 Flash，参数强大，性能与前沿顶级大模型并驾齐驱。其架构平衡算力与智力，有独特注意力布局；基础设施保障训练稳定；强化学习激发智能体潜能；评测数据显示战斗力强，未来还将持续优化。
马斯克「世界模拟器」首曝，1天蒸馏人类500年驾驶经验！擎天柱同脑进化
特斯拉官宣「世界模拟器」，可模拟、合成自动驾驶的「孪生世界」，生成不同视角和长尾场景。它基于端到端神经网络，有学习人类价值观等优势。还能用海量数据解决难题，输出可解释中间结果，为自动驾驶和擎天柱训练服务。
从打分器到思考者：RM-R1用推理重塑模型价值判断
伊利诺伊大学香槟分校团队提出 RM - R1 框架，将奖励建模定义为推理任务。它引入推理奖励模型和链式评估准则机制，经两阶段训练，在多基准测试中表现超大规模模型，验证了推理能力对奖励模型的重要性。