Update app.py

app.py

@@ -5,6 +5,7 @@ import nltk
 import copy
 import time
 import vllm
+import shutil
 import msgpack
 import tempfile
 import validators