「模型使用技巧」共找到 8580 篇相关文章
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
Google新研究：降低大模型幻觉的全新视角——充分上下文！
谷歌新研究《SUFFICIENT CONTEXT: A NEW LENS ON RETRIEVAL AUGMENTED GENERATION SYSTEMS》提出“充分上下文”概念，剖析RAG系统失败原因并给出解决方案，对提升企业AI准确性和可靠性有重要意义。
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
文章围绕使用PTX指令高效加载和存储矩阵展开，介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等，给出不同矩阵数量的实现代码示例，助读者理解和应用。
Nature发布Delphi-2M模型，提前20年预测你得什么病
2025年9月17日《自然》发表研究成果，欧洲、德国和丹麦科学家改造GPT架构，推出Delphi - 2M模型。它能预测1258种疾病及死亡风险，依据过往病史等提供风险概率，虽有局限但潜力大。
Karpathy最新分享！给大模型做好“服务”将是巨大机会
近日，Karpathy在AI Startup School演讲，提出AI正从根本改变软件。他将软件分三个时代，认为LLM是全新操作系统，还指出其特长与局限，点明AI时代两大机遇：部分自主应用和构建Agent友好工具。
从Foundation Model到Physical AI，三星「杀入」大模型核心战场
三星正快速进入大模型核心战场，构建Foundation Model体系，采购GPU用于AI基建。它提出Meki架构、M2RL训练范式和LiveClawBench评测体系，由AI Model TF团队推进，负责人是唐业辉。
OpenAI史上最快模型降临，每秒1000Token！代码从此「炸出来」
OpenAI发布GPT-5.3-Codex-Spark，它是专为实时编程设计的超高速模型，生成速度超每秒1000个token，联手Cerebras硬件，重写底座提升性能，在多项测试表现强，ChatGPT Pro用户可尝鲜。
独一份！带动效的 PPT 生成 Agent！使用教学&创作思路
作者实现用 Nano Banana Pro 生成带演示动画的 PPT 这一独特功能。介绍了更新后的 PPT 生成 Skills 能力、使用方法、创作思路，还提及成本及对 AI Coding 发展的看法。
突发！Anthropic “封杀”中国控股公司，禁止其使用Claude等AI服务
9月5日，Anthropic宣布禁止多数股权由中国资本持有的集团或子公司使用Claude。政策调整涉及多种中国背景企业，也适用于美“对手国家”，还意在遏制中方获取先进AI技术，引发行业关注。
当「变大」不再是唯一的路，又一国产模型开源了
2026年6月智谱开源GLM - 5.2，心洲科技前沿实验室Mind Lab开源Macaron - V1，基座升级至GLM - 5.2。它押注持续学习与群体智能，成绩优于基座，相关理念和工程路径获验证。