Update app.py

app.py

@@ -1,28 +1,51 @@
-import torch
+import json
 import gradio as gr
-from transformers import AutoModelForCausalLM, AutoTokenizer
-
-# 🔹 Izvēlamies labāku modeli (OPT-1.3B)
-model_name = "facebook/opt-1.3b"
-device = "cpu"  # Hugging Face Free darbojas uz CPU (ja ir GPU, var iestatīt "cuda")
-
-# 🔹 Ielādē modeli un tokenizer
-tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(model_name).to(device)
-
-# 🔹 Funkcija čatam
-def chat_with_gpt(history):
-    user_input = history[-1][0]
-    inputs = tokenizer(user_input, return_tensors="pt").to(device)
-
-    # Ģenerēšanas parametri
-    gen_params = {
-        "max_new_tokens": 100,
-        "temperature": 0.7,
-        "top_p": 0.9,
-        "repetition_penalty": 1.2,
-        "do_sample": True,
-    }
+from transformers import T5Tokenizer, T5ForConditionalGeneration
+
+# 1. Datu ielāde
+with open("data.json", "r", encoding="utf-8") as f:
+    data = json.load(f)
+
+# 2. Modeļa un tokenizer ielāde
+model_name = "google/mt5-small"
+tokenizer = T5Tokenizer.from_pretrained(model_name)
+model = T5ForConditionalGeneration.from_pretrained(model_name)
+
+# 3. Atbildes ģenerēšanas funkcija
+def generate_answer(question):
+    inputs = tokenizer(question, return_tensors="pt", max_length=512, truncation=True)
+    outputs = model.generate(**inputs, max_new_tokens=200)
+    answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
+
+    #meklē atbilde datu kopā.
+    found_answer=None;
+    for item in data:
+      if question.lower() in item['question'].lower():
+        found_answer=item['answer'];
+        break;
+
+    if found_answer:
+      return found_answer
+    else:
+      return answer
+
+# 4. Gradio lietotāja saskarne
+iface = gr.Interface(
+    fn=generate_answer,
+    inputs=gr.Textbox(lines=2, placeholder="Uzdot jautājumu par enerģētiku vai elektromontāžu..."),
+    outputs="text",
+    title="Enerģētikas/Elektromontāžas Čata Robots",
+    description="Uzdot jautājumus par elektromontāžu, vai enerģētiku. Ja ir jautajumi datu bāzē, atbildēs no datu bāzes, pretējā gadījumā, no mT5 modeļa.",
+)
+
+iface.launch()
+
+# data.json piemērs:
+# [
+#     {"question": "Kādi ir elektroinstalācijas drošības noteikumi?", "answer": "Galvenie noteikumi ir..."},
+#     {"question": "Kā aprēķināt jaudu trīsfāžu ķēdē?", "answer": "Jauda trīsfāžu ķēdē tiek aprēķināta..."},
+#     ...
+# ]
 
     outputs = model.generate(**inputs, **gen_params)
     response = tokenizer.decode(outputs[0], skip_special_tokens=True)