FEA-Bench / testbed /gradio-app__gradio /guides /cn /07_other-tutorials /building-a-pictionary-app.md
hc99's picture
Add files using upload-large-folder tool
8766bc5 verified
|
raw
history blame
5.72 kB

构建一个 Pictionary 应用程序

相关空间:https://huggingface.co/spaces/nateraw/quickdraw 标签:SKETCHPAD,LABELS,LIVE

简介

一个算法能够有多好地猜出你在画什么?几年前,Google 发布了 Quick Draw 数据集,其中包含人类绘制的各种物体的图画。研究人员使用这个数据集训练模型来猜测 Pictionary 风格的图画。

这样的模型非常适合与 Gradio 的 sketchpad 输入一起使用,因此在本教程中,我们将使用 Gradio 构建一个 Pictionary 网络应用程序。我们将能够完全使用 Python 构建整个网络应用程序,并且将如下所示(尝试画点什么!):

让我们开始吧!本指南介绍了如何构建一个 pictionary 应用程序(逐步):

  1. 设置 Sketch Recognition 模型
  2. 定义 predict 函数
  3. 创建 Gradio 界面

先决条件

确保您已经安装gradio Python 包。要使用预训练的草图模型,还需要安装 torch

1. 设置 Sketch Recognition 模型

首先,您将需要一个草图识别模型。由于许多研究人员已经在 Quick Draw 数据集上训练了自己的模型,在本教程中,我们将使用一个预训练模型。我们的模型是一个由 Nate Raw 训练的轻量级 1.5MB 模型,您可以在此处下载

如果您感兴趣,这是用于训练模型的代码。我们将简单地使用 PyTorch 加载预训练的模型,如下所示:

import torch
from torch import nn

model = nn.Sequential(
    nn.Conv2d(1, 32, 3, padding='same'),
    nn.ReLU(),
    nn.MaxPool2d(2),
    nn.Conv2d(32, 64, 3, padding='same'),
    nn.ReLU(),
    nn.MaxPool2d(2),
    nn.Conv2d(64, 128, 3, padding='same'),
    nn.ReLU(),
    nn.MaxPool2d(2),
    nn.Flatten(),
    nn.Linear(1152, 256),
    nn.ReLU(),
    nn.Linear(256, len(LABELS)),
)
state_dict = torch.load('pytorch_model.bin',    map_location='cpu')
model.load_state_dict(state_dict, strict=False)
model.eval()

2. 定义 predict 函数

接下来,您需要定义一个函数,该函数接受用户输入(在本例中是一个涂鸦图像)并返回预测结果。预测结果应该作为一个字典返回,其中键是类名,值是置信度概率。我们将从这个文本文件加载类名。

对于我们的预训练模型,代码如下所示:

from pathlib import Path

LABELS = Path('class_names.txt').read_text().splitlines()

def predict(img):
    x = torch.tensor(img, dtype=torch.float32).unsqueeze(0).unsqueeze(0) / 255.
    with torch.no_grad():
        out = model(x)
    probabilities = torch.nn.functional.softmax(out[0], dim=0)
    values, indices = torch.topk(probabilities, 5)
    confidences = {LABELS[i]: v.item() for i, v in zip(indices, values)}
    return confidences

让我们分解一下。该函数接受一个参数:

  • img:输入图像,作为一个 numpy 数组

然后,函数将图像转换为 PyTorch 的 tensor,将其通过模型,并返回:

  • confidences:前五个预测的字典,其中键是类别标签,值是置信度概率

3. 创建一个 Gradio 界面

现在我们已经设置好预测函数,我们可以在其周围创建一个 Gradio 界面。

在本例中,输入组件是一个 sketchpad,使用方便的字符串快捷方式 "sketchpad" 创建一个用户可以在其上绘制的画布,并处理将其转换为 numpy 数组的预处理。

输出组件将是一个 "label",以良好的形式显示前几个标签。

最后,我们将添加一个额外的参数,设置 live=True,允许我们的界面实时运行,每当用户在涂鸦板上绘制时,就会调整其预测结果。Gradio 的代码如下所示:

import gradio as gr

gr.Interface(fn=predict,
             inputs="sketchpad",
             outputs="label",
             live=True).launch()

这将产生以下界面,您可以在浏览器中尝试(尝试画一些东西,比如 "snake" 或 "laptop"):


完成!这就是构建一个 Pictionary 风格的猜词游戏所需的所有代码。玩得开心,并尝试找到一些边缘情况🧐