「可验证推理」共找到 6084 篇相关文章
高通要发两款AI推理芯片，资本市场反应强烈
高通周一宣布明年推AI200芯片，2027年跟进AI250，股价应声上涨。两款芯片基于移动神经处理技术，专攻AI模型部署，沙特AI公司已计划采用，高通想借此进军AI芯片市场。
谷歌开源 Colab MCP Server，AI 智能体可云端运行代码
谷歌开源 Colab MCP Server，使 AI 智能体通过 MCP 与谷歌 Colab 交互，将本地智能体工作流与云端执行环境打通，解决本地部署局限，还反映 AI 智能体与外部工具交互标准化趋势。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型，面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践，如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等，还提及未来优化方向。
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
解密 Cursor：一位深度用户的原理探析与实验验证
文章作者作为 Cursor 付费用户，通过实验分析其与大模型通信机制和设计原理。用 OpenAI 的`gpt - 4o`模型做实验，发现它是‘基模 + 若干工具’组合，也指出在真实项目因上下文不足表现不佳。
无需外部数据！AI自问自答实现推理能力进化
卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。
大模型Agent的下一阶段：可自我进化的AI-Agent
在人工智能飞速发展下，研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统，设计四层渐进式架构，经《卡坦岛》实验，证明自我进化能力，不同模型表现有差异，代码级进化潜力惊人。
刚刚，Claude偷偷上线隐形水印，每个字都可全球追踪！
8月2日起，Claude生成文字将带隐形水印，触发原因是欧盟AI法案透明度要求。Anthropic设计了文本隐写加文件签章两层标记，覆盖五条产品线，全球生效，但水印存在四重局限，引发用户争议。
图像、视频一模搞定！字节全能原生多模态本地可部署
字节开源原生多模态模型Lance，仅3B激活参数，40G显存就能跑，已登顶huggingface趋势榜。它能进行图像与视频的理解、生成、编辑等操作，在多个基准测试中表现优异，多项性能居首。
跨本体、长任务、可预测……Motubrain双榜登顶只是一个开始
本文围绕具身机器人展开，指出当前大多具身机器人干活存在局限。Motubrain 双榜登顶，确立通用机器人大脑干活能力参照系，它具备一脑多能、一脑贯通等能力，生数科技已开启产品落地布局。