「高效推理框架」共找到 3722 篇相关文章
三星研究院发布手机端侧大模型MeKi：基于Memory的LLM扩展新范式，支持旗舰手机端侧部署
三星研究院发布端侧大模型架构MeKi，提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力，实现容量与性能提升。实验显示其性能、效率表现优，为边缘部署LLM提供新思路。
BAI、高瓴领投，ThetaWave李文轩：我们想成为下一代年轻人默认的知识获取入口
AI-Native知识内容平台ThetaWave AI获数百万美金Pre - A轮融资，创始人李文轩分享创业历程、产品方向、获客与本地化策略等，还谈及产品功能、竞争优势及未来愿景，想成新一代内容平台。
有手就行，教你从0到1快速手搓搭建个GUI Agent
随着通用大模型发展，搭建GUI Agent难度降低。文章介绍如何用通用大模型API，从0到1搭建PC GUI Agent，包括原理、代码实现等，该Agent能跨应用操作，未来可强化功能。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
轻量又好用的 RAW 图片编辑器
RapidRAW 是轻量的 RAW 图像编辑器，适用于多系统，为偏爱简洁流程的摄影师打造。它有 GPU 加速等特性，提供三种 AI 使用方式，有免费与付费选项，还介绍使用方法和系统要求。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
一年后，DeepSeek-R1的每token成本降到了原来的1/32
几天前，DeepSeek更新R1论文至86页，公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效，通过软硬协同提升每瓦特Token吞吐量，还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
结构化预处理让DeepSeek准确率提升51%，现已开源丨清华&深言
零成本降低大模型幻觉新方法LingoEDU，让DeepSeek准确率提升51%。它对上下文精准切分，形成篇章结构树。能解决现有方案两难困境，在多方面实验表现出色，有根治幻觉等核心价值。
谷歌最新 Gemini Agent 爆击GPT-5.2？人类最后考试得分见分晓！网友：Altman又该发“红色警报”了
全球人工智能竞争升温，谷歌与 OpenAI 同日发布更新。谷歌推出全新 Gemini Deep Research 版本及嵌入式研究智能体 API，OpenAI 发布 GPT - 5.2。谷歌新工具能力提升，测试成绩佳，引发网友不同看法，二者竞争激烈。
OpenAI内部代码泄露！最强模型「皇帝」登基，0思考延时吓人
OpenAI代码泄露，神秘的「企鹅家族」模型在测试，代号Emperor的推理预算最高。同时，ChatGPT将推「记忆搜索」功能。此前谷歌Gemini 3抢份额，OpenAI或提速发布GPT - 5.2抗压。