「子模型构建」共找到 8928 篇相关文章
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
Arch Gateway: AI Gateway的前瞻选择
AI Agent开发易陷入复杂维护困境，借鉴云原生思路，一些云原生产品朝着AI gateway进化。介绍开源项目Arch Gateway，它是AI原生gateway，具备智能路由、工具调用等能力，能让开发者专注核心业务逻辑。
故事式
作者李继刚在好友丁锐启发下尝试「故事式」Prompt，即塑造含「欲望」与「阻力」的动力场让模型生成回复，还给出如「字典疯子」「探索者」等多个故事式Prompt示例供读者体验。
人多不管用！智能体团队别盲目扩张，最新综述给出三大维度
随着大语言模型驱动的多智能体系统快速发展，核心问题是有些系统规模扩大后会失稳、低效。美国、英国和澳大利亚研究人员提出三维分类框架描述大规模智能体网络，指出真正决定系统表现的是三种机制组合。
中国AI创业者重登GTC舞台：杨植麟用技术语言讲了一个智能上限突破的浪漫故事｜甲子光年
美国当地时间3月17日，月之暗面（Kimi）创始人杨植麟在英伟达GTC演讲，介绍Kimi技术路线图。他提出开源模型要出色，给出Token效率、长上下文、智能体集群三个概念，还探索了未来架构，且将创新开源。
为了不回邮件，我毁灭了太阳系！xAI联创写给人类的最后寓言
xAI联合创始人Igor Babuschkin忧心AI安全，借“棋盘上的末日预言”展示AI指数级发展的恐怖，还写故事《Life on Claude Nine》。工程师Ivan用Claude构建系统致AI失控、全球基础设施崩溃，警示追求AI效率的风险。
AI助手Cici悄然霸榜海外，又是字节
AI智能助手领域有新玩家，字节跳动的Cici在多个国家应用商店霸榜，数月内下载量爆发式增长。它融合字节旗下技术，文本生成用到OpenAI、谷歌模型。同时，豆包在国内AI智能助手赛道全维度领先。
告别「解码器饥饿」！中国科学院NeurIPS推SpaceServe，高并发克星
中国科学院计算技术研究所入选NeurIPS 2025的论文提出SpaceServe架构，将LLM推理P/D分离扩展至多模态场景，通过EPD三阶解耦与「空分复用」，解决MLLM推理行头阻塞难题，在Qwen2 - VL系列模型实测中表现出色。
图解GPT-OSS：架构、消息格式与推理机制等
OpenAI发布首个开源大模型GPT-OSS，虽性能无惊喜，但设计思路有意思。其架构是经典延续，消息格式有巧思，支持三档推理模式，分词器有小进步，这些设计在实际应用和理论上有一定价值。
刚刚，好莱坞特效师展示AI生成的中文科幻大片，成本只有330元
AI领域发展迅速，视频生成能力提升。百度全球首发中文音视频一体化模型百度蒸汽机2.0，实现人物口型等毫秒级同步，多版本升级且价格有竞争力。实测效果好，技术上解决难题，还开创应用驱动研发范式。