feature: adding portuguese version
Browse files
README.md
CHANGED
@@ -164,7 +164,7 @@ Aroeira é um corpus curado desenvolvido para o treinamento de grandes modelos d
|
|
164 |
|
165 |
**Desenvolvedor do Conjunto de Dados:** Instituto de Ciência e Tecnologia Itaú-Unibanco (ICTi)
|
166 |
|
167 |
-
**Arquitetura de Criação do Conjunto de Dados:** A criação do corpus é dividida em
|
168 |
|
169 |
**Idiomas Suportados:** Português Brasileiro (PT-BR) e Português de Portugal (PT-PT).
|
170 |
|
@@ -224,9 +224,9 @@ Nosso principal objetivo foi entregar um conjunto de dados de alta qualidade, e
|
|
224 |
|
225 |
O filtro de conteúdo sexual se concentra em remover material sexual inapropriado, enquanto o filtro de toxicidade tem um enfoque mais amplo, removendo conteúdo relacionado a violência, sexismo e elementos prejudiciais semelhantes. O filtro de viés aborda viés de gênero, raça e outros.
|
226 |
|
227 |
-
Como não era prático revisar manualmente todo o conjunto de dados, a validação da eficiência dos filtros foi realizada usando dados amostrais.
|
228 |
|
229 |
Os dados do corpus são provenientes principalmente do [Common Crawl](https://commoncrawl.org/), que coleta conteúdo publicamente acessível. Uma das principais preocupações foi validar se algum do conteúdo extraído infringia proteções de direitos autorais. Um esforço rigoroso foi feito para remover quaisquer documentos que pudessem violar as leis de direitos autorais.
|
230 |
|
231 |
# Informações de Citação
|
232 |
-
|
|
|
164 |
|
165 |
**Desenvolvedor do Conjunto de Dados:** Instituto de Ciência e Tecnologia Itaú-Unibanco (ICTi)
|
166 |
|
167 |
+
**Arquitetura de Criação do Conjunto de Dados:** A criação do corpus é dividida em módulos, (i) coleta (Pipeline de Dados) e (ii) garantia de segurança do conteúdo (Pipeline de Segurança de Conteúdo). O pipeline completo contém nove etapas: coleta e amostragem de dados, extração de texto, identificação de idioma, remoção de duplicados e filtros de qualidade no Pipeline de Dados, e filtro de conteúdo sexual, filtro de dados tóxicos, filtro de viés e categorização no Pipeline de Segurança de Conteúdo.
|
168 |
|
169 |
**Idiomas Suportados:** Português Brasileiro (PT-BR) e Português de Portugal (PT-PT).
|
170 |
|
|
|
224 |
|
225 |
O filtro de conteúdo sexual se concentra em remover material sexual inapropriado, enquanto o filtro de toxicidade tem um enfoque mais amplo, removendo conteúdo relacionado a violência, sexismo e elementos prejudiciais semelhantes. O filtro de viés aborda viés de gênero, raça e outros.
|
226 |
|
227 |
+
Como não era prático revisar manualmente todo o conjunto de dados, a validação da eficiência dos filtros foi realizada usando dados amostrais. Desse modo, ainda pode existir um pequeno grau de contaminação no corpus. Os usuários são responsáveis por revisar e filtrar qualquer conteúdo potencialmente inadequado.
|
228 |
|
229 |
Os dados do corpus são provenientes principalmente do [Common Crawl](https://commoncrawl.org/), que coleta conteúdo publicamente acessível. Uma das principais preocupações foi validar se algum do conteúdo extraído infringia proteções de direitos autorais. Um esforço rigoroso foi feito para remover quaisquer documentos que pudessem violar as leis de direitos autorais.
|
230 |
|
231 |
# Informações de Citação
|
232 |
+
O artigo "Aroeira: A Curated Corpus for the Portuguese Language with a Large Number of Tokens", que descreve completamente a criação do corpus, foi aceito na 34ª Conferência Brasileira de Sistemas Inteligentes (BRACIS), que ocorrerá em novembro de 2024. Em breve, forneceremos instruções detalhadas sobre como citá-lo corretamente.
|