「TensorRT-LLM」共找到 969 篇相关文章
a16z 提出 AI 产品的「水晶鞋效应」：第一批用户反而是最忠诚的
OpenRouter 报告基于 300 多个模型、100 万亿个 token 交互数据，分析 LLM 应用情况。提出「灰姑娘水晶鞋效应」，即 AI 模型首批用户留存率更高，与传统 SaaS 玩法相悖，还通过案例分析其表现及对 AI 创业的影响。
Agentic 应用时代，Dify 全链路可观测最佳实践
文章讲述 Dify 平台在 Agentic 应用开发的可观测性挑战，从开发者与运维方视角分析现状、局限与改进方向。云监控推出全景可观测方案，还介绍各组件监控接入步骤及实践指南，最后提及 Qwen - Image 生图优势。
HF日趋榜一！真端到端模型AutoDeco终结手动调参解码
大语言模型手动调参解码繁琐，腾讯AI Lab王琰团队联合港中大（深圳）唐晓莹教授团队推出AutoDeco架构，通过创新训练策略让模型动态预测解码参数，在多模型实验中表现出色且已开源。
Browser Use 推出 Code Use：直接用代码控制浏览器
Browser Use 发布 0.9.0 版本，推出专为爬取数据设计的 Code Use。它开发特殊 Agent 和定制 LLM 输出特定代码，通过 CDP 直接操控浏览器，效率和准确性理论上更高，还给出使用示例，同时提醒了安全问题。
我是微软工程师，编程了30多年，如今我几乎不再编程了
微软资深工程师 Paul Payne 分享编程 30 多年感受，认为 AI 正颠覆软件工程领域。他所在团队研究 LLM 驱动系统，系统从程序员手中接走大量工作，Amplifier 等工具让编程变得更简单，人类程序员价值将升华。
T2R-Bench发布：业内首个由表格生成报告工业基准
为解决大语言模型将表格信息转化为报告的难题，研究团队提出“表格到报告”任务，构建双语基准T2R - bench，其涵盖多垂域表格，还设计评价指标体系，实验显示大模型在该基准上提升空间大。
刚刚，DeepSeek论文登上Nature，更多细节披露！
9月17日，梁文锋担任通讯作者的DeepSeek - R1推理模型研究论文登《Nature》封面，它是全球首个经同行评审的主流LLM。不靠人工标注，靠强化学习激发推理能力，学会‘自我反思’，在多任务上优于传统模型。
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
UNC | 发布Bifrost-1，构建“最强大脑”与“顶级画师”的桥梁，低成本实现“文生图”自由
随着AI发展，打造能推理又能创作的系统成为焦点。但让LLM学习视觉创作面临训练成本高和能力受损问题。BIFROST - 1框架在MLLM和扩散模型间建通信信道，解决核心痛点，实验表现出色。
The Batch: 845 | 没有理由的“推理”
研究人员给LLM输入多项选择题，故意提供误导性提示。用MMLU和GPQA测试Claude 3.7 Sonnet和DeepSeek - R1，发现模型常被提示误导，但其‘思维链’往往未提及提示，表明‘思维链’不足以解释推理过程。