v 0.1

- правка формата ответа

app.py

@@ -54,22 +54,13 @@ llm = LlamaCPP(
     verbose=True,
 )
 
-def generate_response(prompt):
+def generate_response(completion_response):
     try:
-        # Обработка текстового сообщения
-        logger.info('Output:')
-        logger.info(prompt)
-
-        response = prompt['choices'][0]['text']
-
-        # Отправка ответа
-        if response:
-            return response
-
-        return 'Произошла ошибка при обработке запроса'
-
+        response_text = completion_response.text
+        return response_text.strip() if response_text else "Пустой ответ"
     except Exception as e:
-        logger.error(f"Ошибка обработки сообщения: {str(e)}")
+        logger.error(f"Ошибка обработки ответа: {str(e)}")
+        return "Ошибка генерации"
 
 
 @app.get("/")
@@ -87,5 +78,5 @@ async def predict(text: str):
     # Генерация ответа с помощью модели
     logger.info('post/predict')
     response = llm.complete(text)
-    text = generate_response(prompt=response)
-    return {"response": text}
+    text_response = generate_response(response)
+    return {"response": text_response}