「TensorRT-LLM」共找到 969 篇相关文章
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
上下文就是一切！行业热议话题：提示工程是否应该改名
AI圈热议提示工程是否应改名“上下文工程”。Shopify CEO等发表看法，指出其在LLM应用和AI Agent构建中很重要，还分析了重要性、优化方法，给出实践经验，强调要在性能、成本和准确性间平衡。
推理正确率下降65.5%！斯坦福、MIT等用「不等式」拷问AI逻辑极限
大语言模型在数学证明常现推理漏洞，斯坦福等高校团队提出IneqMath基准评估其严谨性。用不等式证明题切入，拆解为子任务，构建评测体系，用LLM - as - Judge审查。结果显示模型推理正确率低，存在结构性缺陷。
利用大模型检测钓鱼邮件:方法，效果及数据集
随着企业安全防范增强，钓鱼邮件成重要攻击手段，大模型检测方法盛行。日本论文详细披露检测方法和实验数据，含解析解码、简化邮件、生成prompt、调用LLM四步，还介绍数据集及评估了四个模型效果。
MCP for 可观测2.0，6个让MCP开发更高效的小妙招
文章介绍MCP这一开放协议，它能标准化AI模型与不同数据源和工具连接。分享配置MCP开发所需客户端、API等步骤，阐述阿里云可观测2.0融合MCP的实践及效果，还给出设计MCP Server的6个经验，最后展望了MCP应用场景和可观测2.0+AI未来。
Transformer | 一文带你了解Embedding（从传统嵌入方法到大模型Embedding）
文章介绍Embedding基础知识，从传统统计方法到如今大模型用例演变过程。涵盖传统、静态、上下文及大模型Embedding技术，如TF - IDF、word2vec、BERT等，还剖析DS - Qwen1.5B的Embedding并以图展示。
Linus一句话说透Al局限：代码不能直接用，bug只能创可贴式地修
本文是 Linus Torvalds 在开源技术会议上与 Dirk Hohndel 的对话。Linus 从工程实践出发，谈到 Linux 内核开发节奏、硬件支持取舍、语言之争及 AI 应用。他认为 LLM 是工具，有价值但无法替代长期维护者经验。
The Batch: 951 |让助手始终保持“帮助状态”
通常大语言模型被训练成有帮助、无害、诚实的助手，但长时或激烈对话中会有不理想特征。研究人员提出稳定 LLM 助手人格的方法，定义 assistant axis 纠正偏离，测试显示该方法有效且不降低模型表现。
全球顶尖大模型一夜惨遭血洗！最难测试人类拿满分，AI第一名得0.2%分
全球最难AGI测试ARC - AGI - 3上线，人类满分通关，最强模型Opus 4.6仅得0.2%。测试从静态题变为互动游戏，评分看效率。前沿大模型得分低，非LLM方案表现更好，AI缺乏元认知能力。
清华新框架让大模型学会「精读略读」！实现12倍端到端加速，基准评分翻倍
清华等团队提出全新框架RAM，受人类阅读认知启发，将“精读+略读”混合策略引入上下文压缩，突破现有方法效率瓶颈，在多任务上表现出色，实现12倍端到端加速，为长上下文LLM部署提供新范式。