推荐文章8

万字长文总结大模型推理优化技术

AINLPer2025-06-19

AI 摘要

文章指出大模型推理成本高、资源需求大，需优化。介绍推理各阶段特点，提及模型并行、注意力机制等优化技术，如多查询注意力减少内存、FlashAttention 优化计算，还介绍模型服务的动态批处理与预测推理。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

阿里云平台完成 DeepSeek Harness 评测

本文分享基于阿里云 AgentLoop 平台的 DeepSeek Harness 评测实践。介绍了 DeepSeek Harness 工程架构，阐述 AgentLoop 平台接入方式及价值，还详述评估器设计思路、展示评测结果，最后总结方法论并展望后续工作。

过去一年AI进入RSI时代，但评测方式仍停留在过去。MirroS联合多方发布HarnessEval，将Harness引入评测领域，使评测成为具备自我进化能力的智能系统，还率先应用于交互式世界模型评测。

近期，DeepSeek上调API价格，V4 Pro等型号涨幅明显；而OpenAI的GPT - 5.6 Luna API价格降80%，Terra降20%。这背后是大模型价格竞争方向转变，受竞争、广告、效率及Agent使用方式等因素影响。

macOS Harness 是 browser - use 团队开源项目，目标是让 LLM 用持久化 Python 进程完成 Mac 上几乎所有任务。它仅提供六个原始操作，模型用其操作应用，还能在运行中补全缺失部分。项目有诸多优势，目前仅支持 macOS。