「模型优化器」共找到 8489 篇相关文章
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
抢先OpenAI？AIUI全新升级燃爆22亿终端，国内大厂定义智能交互
科大讯飞围绕智能交互场景，对AIUI、机器人超脑等4大平台全面升级。其AIUI以大模型为引擎，有儿童专属交互方案，还推出智能眼镜“三麦阵列”等，各平台在多领域应用成果显著。
一招缓解LLM偏科！调整训练集组成，“秘方”在此 | 上交大&上海AI Lab等
上海交大和上海AI Lab联合团队提出IDEAL方法，可提升LLM综合性能。研究发现SFT阶段数据数量非关键，配比不当会加剧模型“偏科”。以Llama3.1 8B测试，IDEAL能提升代码能力，还指导了超参数选取。
Figure机器人分拣快递新视频曝光，网友：太像人类
Figure 02机器人开启打工模式，创始人放出其分拣快递新视频，它动作流畅像人类，由端到端通用控制模型Helix自主驱动。此前它还在宝马生产线连续20小时轮班作业，Figure与OpenAI分道扬镳后推出Helix。
Karpathy教你值回ChatGPT 200刀「票价」，初创工程师揭秘ChatGPT最核心能力
AI大神Andrej Karpathy用一张图教你选ChatGPT模型，给出使用指南，如简单问题用4o，困难问题用o3等。初创工程师Eric Hayes揭秘其背后复杂记忆系统，含保存记忆、聊天历史等，提升了用户体验。
MCP客户端调用看这一篇就够了（Java版）
文章介绍MCP客户端调用方法，先阐述没MCP时的痛点，再讲大模型调用MCP的姿势，包括Spring - AI和Spring - AI - Alibaba框架的使用，还介绍原生SDK调用方式，记录踩坑问题，探讨两种技术路线的选型。
Anthropic首次启动员工股票回购，估值615亿美元
Theinformation消息，大模型平台Anthropic推出首个员工股票回购计划，面向工作至少两年的现任和前任员工，最多可售20%股权，每股56.09美元，公司估值615亿美元。此计划预计月底完成，方式独特，优势明显。
别再卷数据了，LLM也怕「过劳死」！CMU等揭秘灾难性过度训练
CMU、斯坦福等四大名校研究团队挑战“预训练规模越大越好”观点，提出“灾难性过度训练”现象，即增加预训练数据可能导致后训练性能下降，并从现实证据、控制实验、理论分析等方面阐述新研究贡献，还介绍了相关实验及结论。
从AI Build AI到真正RSI：这场张江塔尖会把「自进化」拆到细节
本文报道了在张江AI创新小镇举办的「Triple T」张江塔尖会技术沙龙，沙龙以「AI²：当AI学会自我超越」为题，汇集多位青年学者与产业从业者，围绕递归自我改进（RSI）、自进化AI的前沿研究、实践路径展开讨论，拆解不同场景下的技术进展与待突破瓶颈。
对话Memories.ai沈俊潇：用视觉记忆驱动物理AI自进化
DeepTech专访前Meta研究员、Memories.ai创始人沈俊潇，介绍公司聚焦视觉记忆领域，以视觉记忆驱动物理AI自进化，解决物理AI数据标注痛点，已获融资并与高通、英伟达合作，形成清晰的商业数据飞轮。