「Agent推理」共找到 4488 篇相关文章
三个月、零基础手搓一块TPU，能推理能训练，还是开源的
加拿大西安大略大学工程师暑期打造开源 ML 推理、训练芯片 TinyTPU。他们非专业出身，从基础学起。还介绍了造 TPU 原因、硬件知识、构建方法，及推理、训练的实现。
走出 MMLU 的高分幻觉：AI Agent 的「斯坦利时刻」与职场生存法则
文章指出多模态大模型在基准测试分数高，在实际业务流程却像‘职场巨婴’。研究团队构建Trainee - Bench测试顶尖模型，结果显示模型离‘独立上岗’远，凸显提升Agent自主学习性的重要性。
上交大54页综述讲透Agent认知外部化的演进之路
上海交大联合多机构提交综述论文，首次以「外部化」为统一视角，梳理了LLM Agent的记忆、技能、协议与Harness工程四大支柱。指出Agent实际进展取决于外部认知基础设施，而非模型能力提升。
《动手写AI Agent》多模型适配：一套代码跑通三家 LLM
上一章用火山引擎豆包 API 写了能跑的 Agent，但换模型重写代码会混乱。本章用 Adapter 模式解决问题，介绍火山引擎、Claude、OpenAI 三家 API 关键差异，还分析了 Claude 工具调用格式特殊之处。
多模态推理最高加速3.2倍！华为诺亚新算法入选NeurIPS 2025
华为诺亚方舟实验室研究入选NeurIPS 2025，其提出视觉感知投机推理（ViSpec）框架，解决草稿模型处理图像信息效率难题，在不牺牲生成质量下，对主流VLM最高达3.22倍推理加速。
刚刚，Thinking Machines Lab首次发长文，揭开LLM推理不确定性真相
Thinking Machines Lab发长文《克服LLM推理中的不确定性》，指出大语言模型推理不确定性的真正元凶是缺乏批次不变性，还解释核函数计算中数字加法顺序问题，介绍使核具有批次不变性的方法并给出实验结果。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
张鹏对谈李广密：Agent 的真问题与真机会，究竟藏在哪里？
本文是《今夜科技谈》直播沉淀，极客公园整理。拾象科技李广密、钟凯祺从多维度拆解 Agent 真问题与机会，探讨产品、技术路径、商业模式等，指出 Agent 发展方向与挑战。
OiiOii 正式上线：全面接入 Seedance 2.0，做全球顶尖的动画短剧 Agent
Seedance 2.0 虽强大但难用，存在用户量多需排队、未解决叙事问题等状况。OiiOii 正式上线，它是全球首个动画创作 Agent，全面接入 Seedance 2.0，解决上述问题，实测效果佳，价值显著。
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。