Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
@@ -54,73 +54,83 @@ def preprocess(text):
|
|
54 |
text=" ".join(text.split())
|
55 |
return text
|
56 |
|
57 |
-
|
58 |
-
st.title('Analisis de comentarios sexistas en Twitter
|
59 |
st.markdown('Esta app utiliza tweepy para descargar tweets de twitter en base a la información de entrada y procesa los tweets usando transformers de HuggingFace para detectar comentarios sexistas. El resultado y los tweets correspondientes se almacenan en un dataframe para mostrarlo que es lo que se ve como resultado')
|
|
|
|
|
60 |
|
61 |
def run():
|
62 |
with st.form(key='Introduzca Texto'):
|
63 |
-
|
64 |
-
|
|
|
|
|
65 |
termino=st.checkbox('Término')
|
66 |
usuario=st.checkbox('Usuario')
|
67 |
-
submit_button =
|
|
|
68 |
if submit_button:
|
69 |
date_since = "2020-09-14"
|
70 |
-
if (termino):
|
71 |
-
|
72 |
-
|
73 |
-
elif (usuario):
|
74 |
-
|
75 |
-
|
76 |
-
|
77 |
-
|
78 |
-
|
79 |
-
|
80 |
-
|
81 |
-
|
82 |
-
|
83 |
-
|
84 |
-
|
85 |
-
|
86 |
-
|
87 |
-
|
88 |
-
|
89 |
-
|
90 |
-
|
91 |
-
|
92 |
-
|
93 |
-
|
94 |
-
|
95 |
-
|
96 |
-
|
97 |
-
|
98 |
-
|
99 |
-
|
100 |
-
|
101 |
-
|
102 |
-
|
103 |
-
|
104 |
-
|
105 |
-
|
106 |
-
|
107 |
-
|
108 |
-
|
109 |
-
#
|
110 |
-
|
111 |
-
#
|
112 |
-
|
113 |
-
|
114 |
-
|
115 |
-
|
116 |
-
|
117 |
-
|
118 |
-
|
119 |
-
|
120 |
-
|
121 |
-
|
122 |
-
|
123 |
-
|
124 |
-
|
|
|
|
|
|
|
|
|
|
|
125 |
#st.write(df)
|
126 |
run()
|
|
|
54 |
text=" ".join(text.split())
|
55 |
return text
|
56 |
|
57 |
+
st.set_page_config(layout="wide")
|
58 |
+
st.title('Analisis de comentarios sexistas en Twitter. Objetivo 5 de los ODS, Lograr la igualdad entre los géneros y empoderar a todas las mujeres y las niñas')
|
59 |
st.markdown('Esta app utiliza tweepy para descargar tweets de twitter en base a la información de entrada y procesa los tweets usando transformers de HuggingFace para detectar comentarios sexistas. El resultado y los tweets correspondientes se almacenan en un dataframe para mostrarlo que es lo que se ve como resultado')
|
60 |
+
st.markdown('La finalidad del proyecto es en línea con el Objetivo 5 de los ODS, Lograr la igualdad entre los géneros y empoderar a todas las mujeres y las niñas.Una vez analizados los tweets, los que resulten sexistas se pueden contestar para intentar reeducar a las personas que bien por su educación o circustancias presenten un comportamiento contrario al del Objetivo 5 antes mencionado. Igualmente en casos más graves se pueden realizar otras acciones')
|
61 |
+
|
62 |
|
63 |
def run():
|
64 |
with st.form(key='Introduzca Texto'):
|
65 |
+
col,buff1, buff2 = st.columns([2,2,1])
|
66 |
+
#col.text_input('smaller text window:')
|
67 |
+
search_words = col.text_input('Introduzca el termino o usuario para analizar y pulse el check ')
|
68 |
+
number_of_tweets = col.number_input('Introduzca número de twweets a analizar. Máximo 50', 0,50,10)
|
69 |
termino=st.checkbox('Término')
|
70 |
usuario=st.checkbox('Usuario')
|
71 |
+
submit_button = col.form_submit_button(label='Analizar')
|
72 |
+
error=False
|
73 |
if submit_button:
|
74 |
date_since = "2020-09-14"
|
75 |
+
if ( termino == False and usuario == False):
|
76 |
+
st.text('Error no se ha seleccionado ningun check')
|
77 |
+
error=True
|
78 |
+
elif ( termino == True and usuario == True):
|
79 |
+
st.text('Error se han seleccionado los dos check')
|
80 |
+
error=True
|
81 |
+
|
82 |
+
|
83 |
+
if (error == False):
|
84 |
+
if (termino):
|
85 |
+
new_search = search_words + " -filter:retweets"
|
86 |
+
tweets =tw.Cursor(api.search_tweets,q=new_search,lang="es",since=date_since).items(number_of_tweets)
|
87 |
+
elif (usuario):
|
88 |
+
tweets = api.user_timeline(screen_name = search_words,count=number_of_tweets)
|
89 |
+
|
90 |
+
tweet_list = [i.text for i in tweets]
|
91 |
+
#tweet_list = [strip_undesired_chars(i.text) for i in tweets]
|
92 |
+
text= pd.DataFrame(tweet_list)
|
93 |
+
text[0] = text[0].apply(preprocess)
|
94 |
+
text1=text[0].values
|
95 |
+
indices1=tokenizer.batch_encode_plus(text1.tolist(),
|
96 |
+
max_length=128,
|
97 |
+
add_special_tokens=True,
|
98 |
+
return_attention_mask=True,
|
99 |
+
pad_to_max_length=True,
|
100 |
+
truncation=True)
|
101 |
+
input_ids1=indices1["input_ids"]
|
102 |
+
attention_masks1=indices1["attention_mask"]
|
103 |
+
prediction_inputs1= torch.tensor(input_ids1)
|
104 |
+
prediction_masks1 = torch.tensor(attention_masks1)
|
105 |
+
# Set the batch size.
|
106 |
+
batch_size = 25
|
107 |
+
# Create the DataLoader.
|
108 |
+
prediction_data1 = TensorDataset(prediction_inputs1, prediction_masks1)
|
109 |
+
prediction_sampler1 = SequentialSampler(prediction_data1)
|
110 |
+
prediction_dataloader1 = DataLoader(prediction_data1, sampler=prediction_sampler1, batch_size=batch_size)
|
111 |
+
print('Predicting labels for {:,} test sentences...'.format(len(prediction_inputs1)))
|
112 |
+
# Put model in evaluation mode
|
113 |
+
model.eval()
|
114 |
+
# Tracking variables
|
115 |
+
predictions = []
|
116 |
+
# Predict
|
117 |
+
for batch in prediction_dataloader1:
|
118 |
+
batch = tuple(t.to(device) for t in batch)
|
119 |
+
# Unpack the inputs from our dataloader
|
120 |
+
b_input_ids1, b_input_mask1 = batch
|
121 |
+
# Telling the model not to compute or store gradients, saving memory and # speeding up prediction
|
122 |
+
with torch.no_grad():
|
123 |
+
# Forward pass, calculate logit predictions
|
124 |
+
outputs1 = model(b_input_ids1, token_type_ids=None,attention_mask=b_input_mask1)
|
125 |
+
logits1 = outputs1[0]
|
126 |
+
# Move logits and labels to CPU
|
127 |
+
logits1 = logits1.detach().cpu().numpy()
|
128 |
+
# Store predictions and true labels
|
129 |
+
predictions.append(logits1)
|
130 |
+
flat_predictions = [item for sublist in predictions for item in sublist]
|
131 |
+
flat_predictions = np.argmax(flat_predictions, axis=1).flatten()#p = [i for i in classifier(tweet_list)]
|
132 |
+
df = pd.DataFrame(list(zip(tweet_list, flat_predictions)),columns =['Latest'+str(number_of_tweets)+'Tweets'+' on '+search_words, 'Sexista'])
|
133 |
+
df['Sexista']= np.where(df['Sexista']== 0, 'No Sexista', 'Sexista')
|
134 |
+
st.table(df)
|
135 |
#st.write(df)
|
136 |
run()
|