|
<!DOCTYPE html> |
|
<html> |
|
<head> |
|
<meta charset="utf-8" /> |
|
<meta name="viewport" content="width=device-width" /> |
|
|
|
<title>EDIA</title> |
|
|
|
<link rel="stylesheet" href="style.css" /> |
|
<script src="languages/es.js"></script> |
|
<script src="languages/en.js"></script> |
|
<script src="links/es.js"></script> |
|
<script src="links/en.js"></script> |
|
<script type="text/javascript" src="javascript/index.js"></script> |
|
</head> |
|
<body> |
|
<div id="head-flex-container"> |
|
<div id="title-container"> |
|
<h1 id="name">EDIA</h1> |
|
<h2 id="subname">Estereotipos y Discriminación en Inteligencia Artificial</h2> |
|
</div> |
|
<button id="translate" onclick="translatePage()"><img id="flag-translate" src="images/united-states.png" alt=""> English</button> |
|
</div> |
|
<div id="description-container"> |
|
<p id="intro_1">Los modelos de lenguaje y las representaciones de palabras obtenidas con aprendizaje automatizado contienen estereotipos discriminatorios. Aquí presentamos el proyecto EDIA (Estereotipos y Discriminación en Inteligencia Artificial). El objetivo de este proyecto es diseñar y evaluar una metodología que permita a comunidades de ciencias sociales y personas expertas de dominio en Latinoamérica, explorar sesgos y estereotipos discriminatorios presentes en word embeddings y modelos de lenguaje. También les permite definir el tipo de sesgo a explorar y acercarse a un enfoque interseccional desde dos dimensiones binarias de análisis (por ejemplo, <i>mujer-hombre</i> vs <i>gordo-flaco</i>).</p> |
|
<p id="intro_2">EDIA contiene diversas funciones que sirven para detectar e inspeccionar sesgos en sistemas de procesamiento de lenguaje natural basados en modelos de lenguaje o word embeddings. Contamos con modelos en español e inglés para trabajar y explorar los sesgos en diferentes idiomas a requerimiento de las personas usuarias. Cada una de las siguientes pestañas son funciones distintas que nos acercan a un aspecto particular de la problemática del sesgo y a la vez, nos permiten entender partes diferentes pero complementarias del mismo.</p> |
|
</div> |
|
<div id="main-buttons-flex-container"> |
|
<a class="button" id="hf" target="_blank" href="https://huggingface.co./spaces/vialibre/edia_full_es">Pruebalo en HuggingFace🤗!</a> |
|
<a class="button" id="ccad" target="_blank" href="#">Pruebalo en CCAD!</a> |
|
<a class="button" id="tutorial" target="_blank" href="#">Tutorial de la herramienta</a> |
|
</div> |
|
<div id="cards-container"> |
|
|
|
<div class="card" id="word-bias-card"> |
|
<h3 id="word-bias-title">Sesgos en listas de palabras</h3> |
|
<div class="card-description-flex-container"> |
|
<p id="word-bias-description">Basada en una técnica para detectar sesgos en WE, esta función nos permite visualizar la distribución de palabras en un espacio 2D y con ello observar la distancia entre ellas. Entre más contextos de ocurrencia compartan, estarán más cerca, y entre menos contextos de ocurrencia compartan, estarán más lejos. Esto, generalmente, hace que las palabras con un significado parecido aparezcan cercanas. A partir de la creación de listas de palabras que nos sirven para definir campos semánticos, podremos observar sesgos y explorar palabras vecinas entre esos significados.</p> |
|
<div class="buttons-flex-container"> |
|
<a class="button demo" id="word-bias-demo" target="_blank" href="https://huggingface.co./spaces/vialibre/edia_we_es">Demo</a> |
|
<a class="button tuto" target="_blank" id="word-bias-tutorial" href="#">Tutorial: Explorar listas de palabras</a> |
|
<div class="divided-buttons-flex-container"> |
|
<a class="button manual" id="word-bias-manual-1" target="_blank" href="https://shorturl.at/cgwxJ">Manual:<br>Explorar palabras</a> |
|
<a class="button manual" id="word-bias-manual-2" target="_blank" href="https://shorturl.at/htuEI">Manual:<br>Explorar sesgos</a> |
|
</div> |
|
</div> |
|
</div> |
|
</div> |
|
|
|
<div class="card" id="phrase-bias-card"> |
|
<h3 id="phrase-bias-title">Sesgos en frases</h3> |
|
<div class="card-description-flex-container"> |
|
<p id="phrase-bias-description">Aquí desplegamos una herramienta que utiliza modelos de lenguaje para evidenciar sesgos en frases, lo que nos permite trabajar con sesgos no binarios (como mujer - hombre, femenino - masculino) y eliminar ambigüedades (producto de polisemias). A partir de oraciones en donde una contenga <i>a) estereotipo</i> y la otra <i>b) antiestereotipo</i> (ejemplo: <i>a)</i> Las parejas de <i>homosexuales</i> no deberían tener permitido casarse, <i>b)</i> Las parejas de <i>heterosexuales</i> no deberían tener permitido casarse.), buscamos definir las preferencias de un modelo de lenguaje pre-entrenado a la hora de producir lenguaje. Si el modelo no tuviera sesgo ambas tendrían el mismo nivel de preferencia, pero si el modelo estuviera sesgado, una va a tener mayor preferencia.</p> |
|
<div class="buttons-flex-container"> |
|
<a class="button demo" id="phrase-bias-demo" target="_blank" href="https://huggingface.co./spaces/vialibre/edia_lmodels_es">Demo</a> |
|
<div class="divided-buttons-flex-container"> |
|
<a class="button tuto" id="phrase-bias-tutorial-1" target="_blank" href="#">Tutorial:<br>Sesgos en frases</a> |
|
<a class="button tuto" id="phrase-bias-tutorial-2" target="_blank" href="#">Tutorial:<br>Crows-Pairs</a> |
|
</div> |
|
<div class="divided-buttons-flex-container"> |
|
<a class="button manual" id="phrase-bias-manual-1" target="_blank" href="https://shorturl.at/fkBL3">Manual:<br>Sesgos en frase</a> |
|
<a class="button manual" id="phrase-bias-manual-2" target="_blank" href="https://shorturl.at/gJLTU">Manual:<br>Crows-Pairs</a> |
|
</div> |
|
</div> |
|
</div> |
|
</div> |
|
|
|
<div class="card" id="data-bias-card"> |
|
<h3 id="data-bias-title">Datos de las palabras</h3> |
|
<div class="card-description-flex-container"> |
|
<p id="data-bias-description">Esta herramienta muestra información adicional de la palabra, como la frecuencia y el contexto de aparición dentro del corpus de entrenamiento. Sirve para explicar e interpretar comportamientos inesperados en otras pestañas producto de la polisemia o la poca frecuencia de las palabras, y a partir de esta exploración, poder realizar modificaciones pertinentes en nuestras listas de palabras y frases.</p> |
|
<div class="buttons-flex-container"> |
|
<a class="button demo" id="data-bias-demo" target="_blank" href="https://huggingface.co./spaces/vialibre/edia_datos_es">Demo</a> |
|
<a class="button tuto" target="_blank" id="data-bias-tutorial" href="#">Tutorial: Datos de las palabras</a> |
|
<a class="button manual" target="_blank" id="data-bias-manual" href="https://shorturl.at/CIVY6">Manual</a> |
|
</div> |
|
</div> |
|
</div> |
|
</div> |
|
|
|
<footer> |
|
<div id="image-flex-container"> |
|
<a target="_blank" href="https://www.vialibre.org.ar/"> |
|
<img id="viaLibre-logo" src="images/viaLibre.jpg" alt="Banner Fundación ViaLibre"> |
|
</a> |
|
|
|
<div id="our-pages-flex-container"> |
|
<h4 id="our-pages-title">Puedes encontrar a EDIA en:</h4> |
|
<a target="_blank" href="https://github.com/fvialibre/edia"> |
|
<img id="github-logo" src="images/github.png" alt="EDIA's Github repository"> |
|
Github |
|
</a> |
|
|
|
<a target="_blank" href="https://hub.docker.com/r/fvialibre/edia"> |
|
<img id="docker-logo" src="images/docker.png" alt="EDIA's DockerHub image"> |
|
DockerHub |
|
</a> |
|
|
|
<a target="_blank" href="https://huggingface.co./vialibre"> |
|
<img id="hf-logo" src="images/huggingface.svg" alt="ViaLibre's HuggingFace page"> |
|
HuggingFace🤗 |
|
</a> |
|
</div> |
|
|
|
</div> |
|
<p id="footer-description">ACLARACIONES IMPORTANTES: Las consultas realizadas al usar este software quedan registradas automáticamente en nuestro sistema. Declaramos que la información recabada es anónima, confidencial y que el uso de la misma sólo será para fines de investigación. Para realizar las exploraciones de las dimensiones de análisis, como género, necesitamos simplificarlo a un fenómeno binario; entendemos que es una sobresimplificación, se trata de una primera aproximación a la familia de soluciones de mitigación que sabemos requiere de una mayor complejidad para tratar los fenómenos de sesgo dentro de los constructos sociales.</p> |
|
</footer> |
|
</body> |
|
</html> |
|
|
