「上下文理解」共找到 1383 篇相关文章
中学生就能看懂：从零开始理解LLM内部原理【十三】｜GPT 架构如何工作 ？
本文是对GPT架构工作原理的解读。介绍了GPT与Transformer的关系，阐述其从输入文本到预测下一词概率的流水线，详述训练和推理流程，还提及GPT架构进化的混合专家（MoE）模型。
2M大小模型定义表格理解极限，清华大学崔鹏团队开源LimiX-2M
大语言模型在结构化表格数据处理上表现不佳，清华大学崔鹏团队开源的 LimiX-2M 模型，仅 2M 参数，却能同时支持分类、回归等任务，性能超越经典模型，且训练、运行成本低，科研友好。
表格理解新纪元！上交大等联合开源，半结构化表格问答准确率提升40%！
数据密集型工作中半结构化表格处理难，传统工具和GPT - 4o表现不佳。上海交通大学等联合开源ST - Raptor，通过VLM、HO - Tree算法和LLM推理，解决复杂表格问答问题，支持多格式，适用于多场景。
人工智能研究者如何意外发现：我们对“学习”的理解，可能全是错的
传统理论认为大模型会过拟合，而如今大模型却驱动了诸多应用。2019年研究者突破传统扩大模型规模，出现‘双下降’现象。‘彩票假说’解释其成功原因，还重新定义了‘智能’，揭示科学进步规律。
隐藏超多上下文工程（Context Engineering）技巧的框架，来试一试吧！
文章指出多数人构建的AI Agent像Shallow Agent，处理复杂任务能力弱。以Claude Code等为例，介绍深度Agent架构的秘密，如冗长提示词、规划工具等，还推出开源包deepagents方便上手。
告别复杂提示词！蚂蚁新方式让AI自动理解你的个性化需求
蚂蚁通用人工智能研究中心自然语言处理实验室提出AlignXplore方法，通过强化学习让AI从用户行为归纳偏好并动态更新。该方法训练分两阶段，支持流式偏好推断，实验表现优异，是大模型个性化新尝试。
中学生就能看懂：从零开始理解LLM内部原理【十】｜ “过拟合” 与 Dropout
文章围绕神经网络过拟合问题展开，介绍了过拟合的概念、危害及产生原因，阐述了缓解过拟合的正则化方法，重点介绍了Dropout随机失活，还指出其局限性及在大模型中的应用策略。
中学生就能看懂：从零开始理解LLM内部原理【八】｜ 什么是残差连接？
本系列是对长篇文章《Understanding LLMs from Scratch Using Middle School Math》的解读笔记。本篇介绍残差连接，指出传统多层模型有网络退化和梯度传导困难问题，而残差连接能缓解，还说明了其工作原理和可行性。
Pinecone 推出 Nexus 引擎：为 AI 智能体整合业务上下文并生成结构化数据
Pinecone Nexus 全面上线，是面向 AI 智能体的“知识引擎”，能将企业数据转为结构化数据层，复用数据提准确性、降成本。早期采用者在金融、法律领域看到显著性能提升，词元消耗大幅降低。
用了飞书aily新功能，我终于理解什么叫“AI不是聊天，是干活”
作者黄叔体验飞书 aily 工作助手的“任务模式”后赞不绝口。该模式能异步工作、深度结合飞书生态，可像数字员工一样交付多种成果，如竞品报告、网页、海报、播客等，虽有不足但非常实用。