title: Chatbot-with-MaritacaAI-for-PDFs
emoji: 📚
colorFrom: indigo
colorTo: blue
sdk: streamlit
sdk_version: 1.28.0
app_file: app.py
pinned: false
Chatbot with MaritacaAI for PDFs
Este projeto implementa um sistema de Recuperação de Informações Aumentada por Geração (RAG) conversacional usando Streamlit, LangChain, e modelos de linguagem de grande escala da MaritacaAI - startup brasileira focada em especializar modelos de linguagem para certos domínios e idiomas - especializada no Português Brasileiro. O aplicativo permite que os usuários façam upload de documentos PDF, façam perguntas sobre o conteúdo desses documentos, e mantenham um histórico de chat para contexto em conversas contínuas.
Autor
Reinaldo Chaves ([email protected])
Características
- Interface de usuário Streamlit com tema dark e layout responsivo
- Upload e processamento de múltiplos arquivos PDF
- Processamento de documentos usando LangChain e FAISS
- Geração de respostas usando o modelo sabia-3 da Maritaca AI especializado em Português do Brasil
- Embeddings de texto usando o modelo all-MiniLM-L6-v2 do Hugging Face
- Histórico de chat persistente para manter o contexto da conversa
- Barra lateral com orientações importantes para o usuário
- Contagem de tokens por resposta
- Formatação especial para documentos jurídicos e pedidos LAI
Requisitos
- Python 3.7+
- Streamlit
- LangChain
- FAISS
- PyPDF2
- MaritalkAI
- HuggingFace Embeddings
- Outras dependências listadas em
requirements.txt
Instalação
Clone este repositório:
git clone https://github.com/reichaves/chatbotmaritacaai.git cd chatbotmaritacaai
Instale as dependências:
pip install streamlit langchain langchain_huggingface maritalk faiss-cpu tenacity cachetools
Configure as chaves de API necessárias:
- Chave da API Maritaca AI (https://plataforma.maritaca.ai/)
- Token da API Hugging Face (https://huggingface.co./docs/hub/security-tokens)
Uso
Execute o aplicativo Streamlit:
streamlit run app.py
Abra o navegador e acesse o endereço local mostrado no terminal.
Insira suas chaves de API quando solicitado.
Faça upload de um ou mais arquivos PDF.
Faça perguntas sobre o conteúdo dos documentos na caixa de entrada de texto.
Como funciona
- Upload de Documentos: Os usuários fazem upload de arquivos PDF, que são processados e divididos em chunks menores.
- Criação de Embeddings: O texto é convertido em embeddings usando o modelo all-MiniLM-L6-v2 do Hugging Face.
- Armazenamento de Vetores: Os embeddings são armazenados em um banco de dados FAISS para recuperação eficiente.
- Processamento de Perguntas: As perguntas dos usuários são contextualizadas com base no histórico do chat.
- Recuperação de Informações: O sistema recupera os chunks de texto mais relevantes com base na pergunta.
- Geração de Respostas: O modelo sabia-3 da Maritaca AI gera uma resposta em Português do Brasil com base nos chunks recuperados e na pergunta.
- Manutenção do Histórico: O histórico do chat é mantido para fornecer contexto em conversas contínuas.
Funcionalidades Especiais
- Formatação especial para análise de documentos jurídicos
- Processamento detalhado de documentos da Lei de Acesso à Informação (LAI)
- Sistema de cache para melhor performance
- Tratamento de erros robusto
- Interface adaptativa que mantém o contexto da conversa
Avisos Importantes
- Não compartilhe documentos contendo informações sensíveis ou confidenciais
- As respostas geradas pela IA podem conter erros ou imprecisões
- Sempre verifique as informações com as fontes originais
- Este projeto é para fins educacionais e de demonstração
- Use com responsabilidade e em conformidade com as políticas de uso das APIs
Contribuições
Contribuições são bem-vindas! Por favor:
- Faça um fork do projeto
- Crie uma branch para sua feature (
git checkout -b feature/AmazingFeature
) - Commit suas mudanças (
git commit -m 'Add some AmazingFeature'
) - Push para a branch (
git push origin feature/AmazingFeature
) - Abra um Pull Request
Licença
Citação
Se você usar este projeto em sua pesquisa ou aplicação, por favor cite:
@software{chatbot-maritacaai-pdfs,
author = {Reinaldo Chaves},
title = {Chatbot with MaritacaAI for PDFs},
year = {2024},
url = {https://github.com/reichaves/chatbotmaritacaai/}
}