搜索：预训练语言模型

「预训练语言模型」共找到 8253 篇相关文章

突破单token预测局限！南洋理工首次将多token预测引入微调，编程任务准确率提升11.67%

当前主流大语言模型依赖下一token预测训练，难理解跨多token完整概念。南洋理工大学提出概念感知微调（CAFT）技术，首次将多token预测引入微调，能让模型理解完整概念，多领域实验显示其可显著提升模型性能。

今年 WWDC 大会上，苹果推出专为增强 Apple Intelligence 功能的语言基座模型，含约 3B 参数紧凑型与基于服务器的混合专家模型。经优化可在苹果芯片高效运行，改进工具使用与推理能力，评测显示设备端模型表现优。

为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。

OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。

不到两周前 Kimi K2 超越其他开源非推理模型，如今阿里巴巴发布基于早期 Qwen3 - 235B - A22B 的三款新大语言模型权重，介绍了输入输出规格、架构设计、性能表现、使用方式等，还进行了性能对比。

文章指出大模型和人类大脑归纳规律路径不同，AI追求精确但脆弱的拟合，人追求粗糙但不变的压缩。大模型在可收敛系统表现惊艳，不可收敛系统则崩盘，未来AI产品核心是打造可收敛封闭环境。

前OpenAI创始成员Andrej Karpathy发文分享ChatGPT模型使用指南，点出关键事实，如o3适合重要任务。社区热烈讨论，专业用户分享策略，还对o4 - mini等模型表现给出反馈。

作者Vicki Boykis分享本地运行AI模型体验，指出如今本地模型性能提升大，像GPT - OSS、Gemma 4系列表现出色。还介绍运行本地智能体流程的设置，虽有问题，但优势多，生态值得投资。

UIUC Ge Liu团队发布《LangFlow: Continuous Flow Matching for Large Language Models》，回归连续扩散架构。研究指出连续扩散受挫非先天缺陷，经优化，LangFlow让连续扩散在标准基准追平离散扩散，为多模态统一架构打通底层路线。

掌握内幕的草莓哥爆料，Ilya正构建以TTT为核心的小型推理引擎。他预见传统大模型的死穴，SSI将TTT概念落地，其引擎在数据效率等方面优势明显。SSI获投资，本月或发新模型。