updream不同节点不能使用不同模型，因其为单实例架构，启动时仅加载一个全局model_path指定的模型，无节点级配置和模型热替换能力；替代方案包括端口隔离的多进程部署或Docker容器化隔离。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
updream不同节点不能使用不同模型。updream是单实例架构的本地AI服务工具，所有工作节点共享同一套运行时环境和模型加载机制，启动时仅加载一个指定模型到显存或内存中，无法为不同节点动态分配或切换模型。
为什么节点间模型不可隔离
updream不支持节点级模型配置，其配置文件（如config.yaml）中仅允许声明全局model_path一项，所有推理请求均路由至该唯一加载的模型实例。
尝试在多个节点分别调用不同模型路径会导致启动失败：第二次加载会触发CUDA out of memory或模型权重冲突错误，因为底层未实现模型卸载/热替换逻辑。
替代方案：用多个updream进程模拟多模型节点
方法一：端口隔离+独立配置
启动第一个updream实例，绑定端口8000，配置model_path指向qwen2-7b；
再启动第二个updream实例，绑定端口8001，配置model_path指向phi-3-mini，确保两个进程的--model-path和--port参数完全独立；
【关键前提】两进程必须使用互不重叠的GPU显存区域，若共用同一张卡，需通过--gpu-memory-utilization 0.45等参数手动切分显存，否则第二个进程会因OOM直接退出。
方法二：容器化隔离（推荐）
用Docker为每个模型运行独立容器，-v映射不同模型目录，-p暴露不同端口，--gpus device=0,1按需分配物理GPU，彻底避免资源争抢。
