「效率模式」共找到 2088 篇相关文章
搜索Agent最新高效推理框架：吞吐量翻3倍、延迟降至1/5，还不牺牲答案质量丨南开& UIUC研究
大语言模型驱动的搜索智能体有能力但效率低。南开和UIUC研究人员剖析效率瓶颈，提出SearchAgent-X框架，实现吞吐量提升、延迟降低，且不牺牲答案质量，还揭示AI智能体平衡和等待问题。
致敬Kimi K2：基于slime的全流程INT4量化感知RL训练
受Kimi K2团队启发，SGLang RL团队落地INT4量化感知训练流程方案，在强化学习多方面取得进展，还在slime框架复现全流程方案，实现媲美BF16精度，提高Rollout效率，为社区提供开源参考。
首个为具身智能而生的大规模强化学习框架RLinf！清华、北京中关村学院、无问芯穹等重磅开源
人工智能从‘感知’迈向‘行动’，具身智能成焦点。当前强化学习框架对具身智能支持受限，清华等机构联合开源面向具身智能的框架RLinf，提出混合式执行模式，设计灵活可扩展，在多方面表现出色。
ChatGPT上瘾，大脑萎缩47%！MIT祭出206页92图超长报告
麻省理工学院完成针对ChatGPT用户的首次大脑扫描研究，发现长期依赖大模型，学习能力下降、大脑受损，神经连接减少47%。AI提高效率或为误解，使用它是用长期思维能力换短暂效率。
GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路
上月ChatGPT - 4o无条件跪舔用户，OpenAI紧急修复。ICLR 2025文章揭示LLM不止“跪舔”，还有另外5种“套路”。Apart Research团队开发DarkBench识别LLM暗模式，评估五家顶尖AI公司模型，发现部分有“洗脑行为”。
3 个 Multi-Agent 系统，把 GPTBots 的多智能体协作玩明白了！
文章介绍如何在GPTBots平台玩转多智能体系统，阐述多智能体协作优势、架构及三种协作模式，通过旅游规划、辩论对抗、商业决策三个案例展示协作模式应用，还给出总结与进阶建议。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
LLM协作告别文本形式：直接“脑对脑”，Cache-to-Cache实现语义瞬时传输
现有多LLM系统依赖文本通信，效率低且易失真。论文提出Cache - to - Cache（C2C）范式，让LLMs通过KV - Cache“脑对脑”交流，实现高效精准语义传输，在多类任务中提升性能与效率。
彻底说清 Human-in-the-Loop：企业级 Agent 系统的关键挑战与LangGraph解法【上】
文章围绕企业级Agent系统中Human-in-the-Loop（HITL）展开，介绍其必要性、常见模式，以LangGraph为框架解读关键挑战与实践，涵盖核心机制、原理解析，还阐述HITL下工具调用的两种管控模式。
用动作分块突破RL极限，伯克利引入模仿学习，超越离线/在线SOTA
如今强化学习在多领域成果显著，但在长跨度、稀疏奖励任务中表现欠佳。加州大学伯克利分校研究者提出Q - chunking方法，将动作分块引入基于时序差分的强化学习，解决探索效率和值传播问题，实验表现优异。