Update main.py

main.py

@@ -28,6 +28,19 @@ llm = HuggingFaceHub(repo_id=repo_id,  # for StarChat
 #chain = load_summarize_chain(llm, chain_type="stuff")
 chain = load_summarize_chain(llm, chain_type="refine")
 
+print(f"定义处理多余的Context文本的函数")
+def remove_context(text):
+    # 检查 'Context:' 是否存在
+    if 'Context:' in text:
+        # 找到第一个 '\n\n' 的位置
+        end_of_context = text.find('\n\n')
+        # 删除 'Context:' 到第一个 '\n\n' 之间的部分
+        return text[end_of_context + 2:]  # '+2' 是为了跳过两个换行符
+    else:
+        # 如果 'Context:' 不存在，返回原始文本
+        return text
+print(f"处理多余的Context文本函数定义结束")    
+
 app = FastAPI()
 class ChatRequest(BaseModel):
     target_url: str
@@ -56,11 +69,22 @@ async def chat(chat_request: ChatRequest):
         print(target_url)
         docs = loader.load()
         result = chain.run(docs)
-        result=str(result)
+        print(result)
+        print()
+        
+        result=str(result)   #找到之前总是POST Error的原因：chain.run(docs)的结果，格式不是str，导致{...}的json故障所致
+        cleaned_initial_ai_response = remove_context(result)
+        print(cleaned_initial_ai_response)
+        print()
+        
+        final_ai_response = cleaned_initial_ai_response.split('<|end|>')[0].strip().replace('\n\n', '\n').replace('<|end|>', '').replace('<|user|>', '').replace('<|system|>', '').replace('<|assistant|>', '')
+        new_final_ai_response = final_ai_response.split('Unhelpful Answer:')[0].strip()
+        final_result = new_final_ai_response.split('Note:')[0].strip()        
+        
         #result="Hi FastAPI"   #用这个调试OK
-        print("AI Summarization: " + result)
+        print("AI Summarization: " + final_result)
         #return {'response': result}  #FastAPI方式下，这个返回形式，有问题？ - NO！不是的！可以工作！
-        return JSONResponse({'response': result})   #这个形式也是OK的 - 只要result是字符形式即可？
+        return JSONResponse({'response': final_result})   #这个形式也是OK的 - 只要result是字符形式即可？
         
         #对比FlaskAPI的：return jsonify({'response': result})，JSONResponse vs jsonify（都需要相应的from ... import ...）
     except Exception as e: