Update app.py

app.py

@@ -1,22 +1,37 @@
 import streamlit as st
 import numpy as np
 import cv2
-import requests
-import tempfile
-import os
+import torch
+from PIL import Image
+from transformers import AutoTokenizer, ViTFeatureExtractor, VisionEncoderDecoderModel
 
-# Заголовок приложения
+# Инициализация модели
+model_id = "nttdataspain/vit-gpt2-stablediffusion2-lora"
+model = VisionEncoderDecoderModel.from_pretrained(model_id)
+tokenizer = AutoTokenizer.from_pretrained(model_id)
+feature_extractor = ViTFeatureExtractor.from_pretrained(model_id)
+
+device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
+model.to(device)
+
+# Функция для получения текста из изображения
+def predict(image):
+    img = image.convert('RGB')
+    model.eval()
+    pixel_values = feature_extractor(images=[img], return_tensors="pt").pixel_values.to(device)
+    with torch.no_grad():
+        output_ids = model.generate(pixel_values, max_length=16, num_beams=4, return_dict_in_generate=True).sequences
+
+    preds = tokenizer.batch_decode(output_ids, skip_special_tokens=True)
+    preds = [pred.strip() for pred in preds]
+    return preds[0]
+
+# Streamlit интерфейс
 st.title("Video Frame to Image Description")
 
 # Загрузка видеофайла
 uploaded_file = st.file_uploader("Upload a video file", type=["mp4", "avi", "mov"])
 
-try:  
-    response = requests.get("https://hf.space")  
-    print(f"Status Code: {response.status_code}")  
-except requests.exceptions.SSLError as e:  
-    print("SSL error occurred:", e)  
-
 cap = None  # Инициализируем объект cap как None
 
 if uploaded_file is not None:
@@ -35,31 +50,16 @@ if uploaded_file is not None:
         ret, frame = cap.read()
 
         if ret:
+            # Конвертация кадра OpenCV в PIL Image
+            frame_rgb = cv2.cvtColor(frame, cv2.COLOR_BGR2RGB)
+            pil_image = Image.fromarray(frame_rgb)
+
             # Отображение выбранного кадра
-            st.image(frame, channels="BGR", caption=f"Random Frame {random_frame}")
-            
-            # Конвертация кадра в подходящий формат для отправки в модель
-            _, buf = cv2.imencode('.jpg', frame)
-            files = {'file': ('image.jpg', buf.tobytes(), 'image/jpeg')}
+            st.image(pil_image, caption=f"Random Frame {random_frame}")
 
-            model_url = "https://hf.space/embed/nttdataspain/Image-To-Text-Lora-ViT/run/predict"
-            headers = {"Authorization": f"Bearer {os.getenv('HUGGINGFACE_TOKEN_READ')}"}
-            
-            # Отправка изображения в модель
-            response = requests.post(
-                model_url,
-                headers=headers,
-                files=files,
-                verify=False
-            )
-            
-            # Получение и отображение результата
-            if response.status_code == 200:
-                result = response.json()
-                description = result['data'][0]['generated_text']
-                st.success(f"Generated Description: {description}")
-            else:
-                st.error("Error: Could not get a response from the model.")
+            # Получение текста из изображения
+            description = predict(pil_image)
+            st.success(f"Generated Description: {description}")
         else:
             st.error("Error: Could not read a frame from the video.")
     else:
@@ -67,4 +67,4 @@ if uploaded_file is not None:
 
 # Проверяем, был ли cap создан, и только тогда освобождаем ресурсы
 if cap is not None:
-    cap.release()
+    cap.release()