gon4arov2312 commited on
Commit
8a2b953
·
verified ·
1 Parent(s): 446dd7b

create app.py

Browse files
Files changed (1) hide show
  1. app.py +34 -0
app.py ADDED
@@ -0,0 +1,34 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ from huggingface_hub import InferenceClient
3
+ import os
4
+ from dotenv import load_dotenv
5
+
6
+ # Загрузка файла .env (если ты тестируешь локально)
7
+ load_dotenv()
8
+
9
+ # Получение токена из переменной окружения
10
+ HF_TOKEN = os.getenv("HF_TOKEN")
11
+
12
+ # Настройка клиента Hugging Face с токеном
13
+ client = InferenceClient(model="IlyaGusev/saiga_llama3_8b", token=HF_TOKEN)
14
+
15
+ def summarize(text):
16
+ """
17
+ Функция для вызова модели Hugging Face через API.
18
+ """
19
+ try:
20
+ response = client.text_generation(text, max_new_tokens=100, do_sample=False)
21
+ return response
22
+ except Exception as e:
23
+ return f"Произошла ошибка: {e}"
24
+
25
+ # Интерфейс Gradio
26
+ demo = gr.Interface(
27
+ fn=summarize,
28
+ inputs=gr.Textbox(lines=5, label="Введите текст для суммаризации"),
29
+ outputs=gr.Textbox(label="Результат суммаризации"),
30
+ title="Суммаризация текста"
31
+ )
32
+
33
+ if __name__ == "__main__":
34
+ demo.launch()