Update utils.py

utils.py

@@ -61,7 +61,7 @@ logging.basicConfig(
 #Beispiel-Antworten, wenn die KI etwas nicht beantworten kann - dann im Netz suchen
 ################################################
 # Your predefined sentences
-standard_responses = ["ich weiß nicht.", "ich weiß das nicht", "Ich habe dazu keine Antwort", "Ich bin nicht sicher", "Ich kann das nicht beantworten", "Es tut mir leid, aber ich kenne keinen", "Es tut mir leid, aber ich kann die Frage nicht beantworten.", "Es tut mir leid, aber ich kann die Frage nicht beantworten, da ich zu der Frage keine spezifischen Informatioen habe"]
+ANTWORT_WEISS_NICHT = ["ich weiß nicht.", "ich weiß das nicht", "Ich habe dazu keine Antwort", "Ich bin nicht sicher", "Ich kann das nicht beantworten", "Es tut mir leid, aber ich kenne keinen", "Es tut mir leid, aber ich kann die Frage nicht beantworten.", "Es tut mir leid, aber ich kann die Frage nicht beantworten, da ich zu der Frage keine spezifischen Informatioen habe"]
 
 #################################################
 #Gesetzte Werte für Pfade, Prompts und Keys..
@@ -71,12 +71,19 @@ standard_responses = ["ich weiß nicht.", "ich weiß das nicht", "Ich habe dazu
 template = """Antworte in deutsch, wenn es nicht explizit anders gefordert wird. Wenn du die Antwort nicht kennst, antworte direkt, dass du es nicht weißt. Versuche nicht es zu umschreiben. Versuche nicht, die Antwort zu erfinden oder aufzumocken. Halte die Antwort kurz aber ausführlich genug und exakt."""
 
 llm_template = "Beantworte die Frage am Ende. " + template + "Frage: {question} Hilfreiche Antwort: "
+#nur für HF für Stichwotre bei chatverlauf
+llm_template2 = "Fasse folgenden Text als Überschrift mit maximal 3 Worten zusammen. Text: {question}  "
+
 rag_template = "Nutze die folgenden Kontext Teile, um die Frage zu beantworten am Ende. " + template + "{context} Frage: {question} Hilfreiche Antwort: "
 
 #################################################
 #Konstanten
 LLM_CHAIN_PROMPT = PromptTemplate(input_variables = ["question"], 
                                   template = llm_template)
+#nur für HF bei chatverlauf
+LLM_CHAIN_PROMPT = PromptTemplate(input_variables = ["question"], 
+                                  template = llm_template2)
+
 RAG_CHAIN_PROMPT = PromptTemplate(input_variables = ["context", "question"], 
                                   template = rag_template)
 
@@ -102,7 +109,7 @@ YOUTUBE_URL_2 = "https://www.youtube.com/watch?v=hdhZwyf24mE"
 # Function to determine if the response is similar to predefined responses
 def is_response_similar(user_response, threshold=0.7):
     # Combine the standard responses with the user's response
-    combined_responses = standard_responses + [user_response]
+    combined_responses = ANTWORT_WEISS_NICHT + [user_response]
 
     # Convert text to TF-IDF feature vectors
     vectorizer = TfidfVectorizer()
@@ -239,6 +246,12 @@ def llm_chain(llm, prompt):
     result = llm_chain.run({"question": prompt})
     return result
 
+#nur für HF-um bei chatverlauf kurzbeschreibung zu erzeugen
+def llm_chain2(llm, prompt):
+    llm_chain = LLMChain(llm = llm, prompt = LLM_CHAIN_PROMPT2)
+    result = llm_chain.run({"question": prompt})
+    return result
+    
 #############################################
 #langchain nutzen, um prompt an llm zu leiten, aber vorher in der VektorDB suchen, um passende splits zum Prompt hinzuzufügen
 def rag_chain(llm, prompt, db):
@@ -381,7 +394,7 @@ def process_chatverlauf(prompt, model, oai_key):
 
 def process_chatverlauf_hf(history, llm):
     input = generate_prompt_with_history("Gib folgendem Text eine Überschrift mit maximal 3 Worten", history)
-    result = llm_chain(llm, input)
+    result = llm_chain2(llm, input)
     return result