文档备案控制台登录立即注册
首页文章问答视频活动下载资源团队号镜像站
发布

AI 应用功能上线：一站式拉起 Stable-Diffusion-WebUI 服务

云原生小助手
云原生小助手
技术
技术

picture.image

本文介绍了如何通过火山引擎持续交付的 AI 应用功能，完全屏蔽 Kubernetes 底层细节，一键拉起 Stable Diffusion 模型，轻松拥有属于自己的 AI 应用。

来源 | 火山引擎云原生团队

近年来，AI 技术发展迅猛，深度学习、自然语言处理、计算机视觉等领域取得了突破性进展。AI 已在各行各业中广泛应用，如智能客服、智能驾驶、智慧城市等，越来越多的企业和组织希望将 AI 应用落地到实际业务中。

在 AI 绘画领域，Stable Diffusion 当仁不让成为开源社区中最具影响力的核心模型，让 AIGC 的 ToC 可能性比肩移动互联网的产品，每个人都可以近距离接触和使用 AI。

Stable Diffusion 主要用于根据文本的描述产生详细图像，也就是 Texttoimage 的场景。通过给定文本提示词，生成一张匹配提示词的图片。例如输入文本提示词『a cute cat』，Stable Diffusion 会生成可爱猫咪的图片。

picture.image

自 2023 年推出至今，Stable Diffusion 已吸引了大量用户前往 Stability AI 等网站进行体验，但考虑到外网访问不够便捷、数据隐私等问题，部署一个自己的 Stable Diffusion 成了越来越多用户的选择。

因此从去年开始，业界出现了海量关于如何部署 Stable Diffusion 的教程。本文将介绍一种全新的企业级方案——通过 持续交付 CP 实现 5 分钟拉起 Stable-Diffusion-WebUI 服务。

AI 模型的开发部署困境

在此前火山引擎云原生团队推出的《如何在火山引擎云上部署 Stable Diffusion》 中，我们为用户提供部署 Stable Diffusion 的操作手册，但这种方案更多的是一种最佳实践，并没有提供封装的、更完善的产品化能力，仍然需要用户对 AI、对云原生有更深的理解。

AI 模型的开发和部署是系统工程，用户经常会遇到以下问题：

环境搭建 ：根据 AI 模型的硬件和软件依赖，开发人员需要部署模型所需的运行环境，例如 CPU/GPU、操作系统、驱动、CUDA、常用框架 Python/PyTorch/Tensorflow 等。采购资源、处理硬件/软件兼容性问题、调试不同版本组合的性能问题会消耗开发人员大量时间；

模型部署 ：如果采用传统主机部署方式，每次模型升级、部署变更或主机迁移，都需要人工介入服务器的应用部署，开发人员需要经常处理过程中出现的依赖库丢失和不兼容等问题；

服务编排 ：使用传统主机和容器部署 AI 应用，容易出现资源配置不当、服务拓扑设计不合理等问题，导致模型优化效果不理想、推理延迟高；

服务外部访问 ：如果需要将 AI 应用暴露接口给集群内其他服务访问，或者用户可以直接通过浏览器访问服务，开发人员需要了解如何申请公网访问、配置负载均衡等网络知识和技能。

对于不熟悉云计算基础设施的用户，上述学习成本无疑会阻碍用户进一步体验最新的 AI。而对于企业级用户，在 AI 技术火爆的今天，随着内部流水线数量急剧增加，企业也希望能将工程师从繁重的 DevOps 工程中解放出来，聚焦于业务开发、敏捷响应市场需求和引入学界创新。

AI 应用：内置模板，一键拉起

针对这些问题，火山引擎云原生团队在持续交付 CP（Code Pipeline）中推出了应用交付全新能力： AI 应用 。它主要包含以下功能：

  • 预置模版 ： 集成了主流的 AI 框架，包括 Stable Diffusion ComfyUI、Stable Diffusion WebUI、LLaMa Factory、Triton、PyTorch 等，封装了操作系统、AI 框架、依赖库等应用环境，可以帮助用户快速部署 AI 应用，降低开发难度；
  • 支持 Serverless ： 支持对接火山引擎弹性容器实例 VCI，提供全托管、免运维的运行环境；
  • 服务访问 ： 集成了火山引擎 API 网关 APIG 和负载均衡 CLB，支出用户一键配置 AI 应用的外部访问能力；
  • 一键回滚 ： 提供可追溯的变更历史管理，帮助用户可以快速回滚到指定版本；
  • 弹性伸缩 ： 支持用户手动配置水平自动扩缩容，和基于资源使用率的自动扩缩容，显著提升算力资源利用率。

picture.image

通过使用 AI 应用，用户可以完全屏蔽 Kubernetes 底层细节，轻松拥有属于自己的 AI 应用。下面我们以 Stable Diffusion 为例，演示如何在 5 分钟内快速拉起模型。

实战：5 分钟拉起 Stable Diffusion

前置准备

  • 通过制品仓库创建仓库实例，同时存放 Stable Diffusion 模型和文生图的输出文件 ，演示使用模型为 stable-diffusion-v1-5 模型；
  • 点击控制台右上角头像创建 API 访问秘钥，用于应用读取制品仓库模型文件；

部署 Stable-Diffusion-WebUI 服务

1. 首先，登录持续交付 CP 控制台： https://console.volcengine.com/cp/v2/overview ，点击【创建工作区】，为工作区取一个名称，并指定工作区的成员列表。

2. 打开【资源管理】-【Kubernetes 集群】页面，点击【创建部署资源】，导入 VKE 集群，并可以指定集群共享的工作区列表。

picture.image

3. 进入创建的工作区，在【应用管理】页面点击【创建应用】，并选择【AI 应用】，开始配置我们的应用信息。

picture.image

AI 应用提供了多种部署模式，其中 AI 生图、LLaMa Factroy 是预置的应用模版，支持预置模版的一键拉起，最大化降低用户的使用难度。 自定义创建模式为用户提供了相对灵活的应用创建模式，能适配用户的绝大部分自定义场景。

这里我们选择 AI 生图 - Stable Diffuison WebUI 应用模版，然后点击“下一步：应用配置”。 在【基本信息】模块，为我们的应用添加应用名称和标识。

picture.image

4. 【模型配置】模块，选择【制品库挂载】，并填入我们 SD 模型的存放路径；【挂载路径】输入“/stable-diffusion-webui/models/Stable-diffusion/”，这是 SD 模型默认的加载路径。

picture.image

火山引擎制品仓库 Artifacts 支持对 AI 模型的管理，支持版本化管理模型，对模型/仓库进行精细化的权限管控。同时也支持代理外部公开仓库（proxy 仓库），能提升从海外下载模型的速度，同时缓存到本地仓库，方便下次的使用。

由于 AI 模型下载耗时久，未来我们也会在 AI 应用集成存储加速的功能，一键开启模型的加速，将模型进行缓存预热，大大提升推理服务下载模型的速度。

5. 在【部署集群】模块，选择已创建的部署资源和部署环境的命名空间。

picture.image

6. 在【服务规格】模块，【资源配置类型】选择 “GPU 计算型”，选择一个合适的 GPU 类型规格。其他配置保持默认。

picture.image

AI 应用支持以弹性容器 VCI 的方式部署，这意味着用户能以 Serverless 的方式启动推理服务，而无需固定申请 ECS 节点。这一方面可以显著提升资源利用率，降低资源成本，另一方面，用户的运维成本也会大大降低。

同时，如果选择 VCI，用户还可以体验其独有的镜像缓存功能—— 由于 AI 的镜像一般都非常大，容器启动时下载镜像非常耗时，在 VCI 部署模式下 AI 应用将默认开启镜像缓存进行加速，根据客户真实实践，这可以将原来接近 20 分钟 的镜像下载时间

降低到 秒级 。

7. 在【访问配置】模块，访问入口类型选择【API 网关】并选择我们的网关实例。

通过集成 API 网关、负载均衡的功能，我们支持用户通过一个入口完成推理服务发布运维所需要的操作，极大增强了易用性。

picture.image

在完成配置后，点击【确定】，将会创建应用。并会立刻触发应用部署，预计等待 1-2 分钟完成部署。

8. 在【基本信息】页面的【概要】栏看到实例已经处于“运行中”状态，【资源配置】栏可以点击“实时日志”和“事件”查看应用详细的启动和运行信息。

picture.image

通过【事件】查看应用实例的启动信息：

picture.image

通过【实时日志】查看应用的运行信息，例如加载模型，生成图片等：

picture.image

在【基本信息】页面的【访问配置】栏，我们可以看到已经在 API 网关生成了应用的“公网访问域名”和“私网访问域名”：

picture.image

通过提供日志、事件、运行状态、访问信息等能力，对推理服务的应用运行状态进行全方位的管理，用户可以屏蔽底层资源即可完成对应用的完整生命周期管理。

9. 【可选】如需要对应用进行扩缩容，可支持手动扩缩，或者配置弹性伸缩策略。

picture.image

我们支持多种伸缩指标，其中 GPU 利用率指标经过字节跳动的优化，提供了更适合 GPU 场景的预置指标（使用 DCGM_FI_PROF_SM_ACTIVE 指标，可更好地反映 GPU 内部计算单元的使用情况，特别是 SM 的利用效率，而不仅仅表明 GPU 是否被占用），对 AI 应用的指标监控更加合理。

验证

现在开始验证我们的应用，在我们的浏览器地址栏输入【基本信息】页面【访问配置】栏的“公网访问域名”，可以看到 Stable Diffusion WebUI 已经成功运行起来。

我们尝试输入正向和反向的提示词生成一张图片，效果如下：

picture.image

除了通过浏览器访问，我们也可以通过 API 的方式访问。

创建一个 client.py 的 python 脚本：


          
from datetime import datetime
          
import urllib.request
          
import base64
          
import json
          
import time
          
import os
          
import requests
          

          
webui_server_url = os.environ.get('SD_WEB_UI_URL', 'http://127.0.0.1:7860')
          

          

          
out_dir = os.environ.get('API_OUT_DIR', 'api_out')
          
out_dir_t2i = os.path.join(out_dir, 'txt2img')
          
out_dir_i2i = os.path.join(out_dir, 'img2img')
          
os.makedirs(out_dir_t2i, exist_ok=True)
          
os.makedirs(out_dir_i2i, exist_ok=True)
          

          

          
def timestamp():
          
    return datetime.fromtimestamp(time.time()).strftime("%Y%m%d-%H%M%S")
          

          

          
def encode_file_to_base64(path):
          
    with open(path, 'rb') as file:
          
        return base64.b64encode(file.read()).decode('utf-8')
          

          

          
def decode_and_save_base64(base64_str, save_path):
          
    with open(save_path, "wb") as file:
          
        file.write(base64.b64decode(base64_str))
          

          

          
def call_api(api_endpoint, **payload):
          
    data = json.dumps(payload).encode('utf-8')
          
    request = urllib.request.Request(
          
        f'{webui_server_url}/{api_endpoint}',
          
        headers={'Content-Type': 'application/json'},
          
        data=data,
          
    )
          
    response = requests.post(
          
        f'{webui_server_url}/{api_endpoint}',
          
        data=data,
          
        headers={'Content-Type': 'application/json'},
          
        timeout= 30,
          
    )
          
    return response.json()
          

          

          
def call_txt2img_api(**payload):
          
    response = call_api('sdapi/v1/txt2img', **payload)
          
    for index, image in enumerate(response.get('images')):
          
        save_path = os.path.join(out_dir_t2i, f'txt2img-{timestamp()}-{index}.png')
          
        print("save to: ", save_path)
          
        decode_and_save_base64(image, save_path)
          

          

          
def call_img2img_api(**payload):
          
    response = call_api('sdapi/v1/img2img', **payload)
          
    for index, image in enumerate(response.get('images')):
          
        save_path = os.path.join(out_dir_i2i, f'img2img-{timestamp()}-{index}.png')
          
        decode_and_save_base64(image, save_path)
          

          

          
if __name__ == '__main__':
          
    payload = {
          
        "prompt": "masterpiece, (best quality:1.1), 1girl <lora:lora_model:1>",  # extra networks also in prompts
          
        "negative_prompt": "",
          
        "seed": 1,
          
        "steps": 20,
          
        "width": 512,
          
        "height": 512,
          
        "cfg_scale": 7,
          
        "sampler_name": "DPM++ 2M",
          
        "n_iter": 1,
          
        "batch_size": 1,
          
    }
          
    call_txt2img_api(**payload)

输入【基本信息】页面【实例信息】栏 的“IP 地址”，添加到环境变量 SD_WEB_UI_URL，并执行脚本，可以看到已经生成图片并保存到本地文件。


          
SD_WEB_UI_URL="http://xxxxxxxx.apigateway-cn-shanghai.volceapi.com"
          
python3 client.py
          
# save to:  api_out/txt2img/txt2img-20240726-073928-0.png

picture.image

【可选】在应用配置中增加“出图位置”，可以直接将生成的图片上传到挂载的存储位置，例如 TOS 对象存储直接查看输出文件内容（SDWebUI 模型默认的输出路径是 /stable-diffusion-webui/outputs）：

picture.image

stable-diffusion-webui 配置优化

  • 启动命令添加 --xformers 选项，使用 SDWebUI 自带的开源加速工具，提高图片生成速度；

  • 增加 Lora 模型可以在不影响原始模型权重的情况下，为特定任务添加额外的参数。 这样可以快速地针对特定风格、主题或者特点来微调模型,而无需重新训练整个模型。 在【模型选择】中增加 Lora 模型的路径并挂载到默认的目录/stable-diffusion-webui/models/Lora。 或者通过启动命令增加 --lora-dir 选项使用自定义挂载目录；

  • 增加 embeddings 提高生成效率，同理可以在【模型选择】中增加 embeddings 文件的路径并挂载到默认的目录/stable-diffusion-webui/embeddings。 或者通过启动命令增加 --embeddings-dir 选项使用自定义挂载目录；

  • 尽量使用和容器服务 VKE 集群同地域的制品库和对象存储 TOS，这样将通过私网访问，可以明显提高模型加载和文件读写速度。

小结

以上就是用 AI 应用部署 Stable Diffusion 的全部流程。

2024 年，AI 技术正进一步赋能各行各业，加速融入社会方方面面。火山引擎云原生团队正将打磨持续交付 CP，为用户带来更流畅、更便捷的 AI 开发部署体验：

  • 不断扩大对 AI 应用的支持范围，涵盖计算机视觉、自然语言处理、语音识别等领域的主流模型；
  • 丰富各类预训练和推理功能，以满足用户多样化的 AI 应用需求；
  • 优化平台的部署流程和工具链，使研发人员能够以更快的速度完成 AI 应用的部署和上线。

欢迎感兴趣的用户扫码咨询、使用！

picture.image

  • END -

相关链接

[1] 火山引擎: www.volcengine.com

[ 2] CP：www.volcengine.com/product/cp

[3] APIG：www.volcengine.com/product/apig

[4] 弹性容器实例：面对降本增效，如何有效提升装箱率？

火山引擎云原生团队

火山引擎云原生团队主要负责火山引擎公有云及私有化场景中 PaaS 类产品体系的构建，结合字节跳动多年的云原生技术栈经验和最佳实践沉淀，帮助企业加速数字化转型和创新。产品包括容器服务、镜像仓库、分布式云原生平台、函数服务、服务网格、持续交付、可观测服务等。

picture.image

picture.image

picture.image

0
0
0
0
关于作者
云原生小助手
云原生小助手
相关产品
推荐阅读
1024，火山引擎开发者社区给你精彩！
Java开发必知漏洞——Log4j漏洞
使用Springblade+Saber框架Web开发脚手架搭建
使用LAMP+PbootCMS快速搭建公司门户网站
技术干货同步分享获奖结果公布
评论
未登录
看完啦，登录分享一下感受吧～
暂无评论