「中科第五纪」共找到 2861 篇相关文章

产品应用7

GEO中,llms.txt是个啥?

GEO中llms.txt是新兴网络标准提案,分提案A(访问控制)和提案B(推理指导)。提案A类似robots.txt,控制内容用于模型训练;提案B是Markdown文件,助LLM理解网站。作者整理指南分享,盼业内出标准。

newtype AI
开源动态7

梳理SGLang中DP Attention及其Padding问题

作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程,指出padding分max和sum模式,旧版sum padding浪费计算、影响cuda graph使用,v0.4.10后有优化,max padding仍待完善。

GiantPandaLLM
产品应用7

一文搞懂如何在Codex中使用goals

OpenAI文章介绍Codex中Goals的使用,包括定义、使用方法、与普通prompt区别、编写要点、激活后变化、内部设计等,还给出复现论文示例,指出适用与不适用场景,称其改变Codex运作模式。

AI寒武纪
推荐文章7

关于CUTLASS Grouped GEMM中Alignment参数的分析

文章围绕CUTLASS Grouped GEMM的Alignment参数展开。介绍其含义与自然对齐有关,既代表访问粒度也指明地址对齐要求。针对CUTLASS 2.x和3.x API分别阐述设置Alignment的方法及原理,还给出编译期推导代码示例。

GiantPandaLLM
开源动态8

从多模态大模型中「拆」出音频向量模型

Google 发布原生多模态向量模型 Gemini Embedding 2,推动 Omni Embedding 发展。Jina AI 团队分享从多模态大模型中「拆」出音频向量模型的经验,介绍架构、训练数据,对比四种做法,还提及评测、应用场景及结论。

Jina AI
推荐文章7

深度学习中Batch Size对训练过程如何影响?

文章分析深度学习中batch size对训练过程的影响,探讨超大batch优缺点及应对方法。用面试、通俗、科学三种方式解答问题,还通过MNIST实验,从迭代速度、梯度平滑程度、收敛速度等指标对比不同batch size情况。

海边的拾遗者
算法论文7

揭秘!RLVR/GRPO中那些长期被忽略的关键缺陷

近年来大模型任务突破离不开RLVR关键技术,许多RLVR方法会进行组内优势估计,北航等最新工作揭示其存在系统性偏差,困难题优势被低估,简单题被高估。这会影响训练,论文提出校正算法。

机器之心
推荐文章9

在生产环境中保护 MCP:超越网关的纵深防御

针对生产环境MCP部署中安全规范滞后于部署速度的问题,本文提出MCP安全不能仅依赖网关,需划分四个独立控制层构建纵深防御体系,给出了可落地的控制方案、代码示例和分阶段实施计划。

InfoQ
新闻资讯8

Google 在 AI 竞赛中如何从落后到反超的故事

本文讲述 Google 在 AI 竞赛中从落后到反超的历程。曾因傲慢错过先机,ChatGPT 问世后 Google 陷入恐慌,后通过创始人回归、团队合并、召回人才等举措,让 Gemini 模型多项指标超越 ChatGPT,实现逆袭。

宝玉AI
新闻资讯8

20万人抢的全球大模型第一股,我中签了

智谱在港交所上市成全球大模型第一股,作者申购中签。智谱专注AI Coding,迭代快,GLM - 4.7成绩亮眼,商业化数据佳,还有诸多有意思细节,虽行业竞争大,但它表现不错。

花叔