Datasets:

Modalities:
Text
Formats:
parquet
Libraries:
Datasets
Dask
License:
hannauer commited on
Commit
90f2865
·
verified ·
1 Parent(s): 60bc715

feature: adding portuguese version

Browse files
Files changed (1) hide show
  1. README.md +3 -3
README.md CHANGED
@@ -164,7 +164,7 @@ Aroeira é um corpus curado desenvolvido para o treinamento de grandes modelos d
164
 
165
  **Desenvolvedor do Conjunto de Dados:** Instituto de Ciência e Tecnologia Itaú-Unibanco (ICTi)
166
 
167
- **Arquitetura de Criação do Conjunto de Dados:** A criação do corpus é dividida em dois objetivos principais, (i) coleta (Pipeline de Dados) e (ii) garantia de segurança do conteúdo (Pipeline de Segurança de Conteúdo). Todo o nosso pipeline contém nove etapas: coleta e amostragem de dados, extração de texto, identificação de idioma, remoção de duplicados e filtros de qualidade no Pipeline de Dados, e filtro de conteúdo sexual, filtro de dados tóxicos, filtro de viés e categorização no Pipeline de Segurança de Conteúdo.
168
 
169
  **Idiomas Suportados:** Português Brasileiro (PT-BR) e Português de Portugal (PT-PT).
170
 
@@ -224,9 +224,9 @@ Nosso principal objetivo foi entregar um conjunto de dados de alta qualidade, e
224
 
225
  O filtro de conteúdo sexual se concentra em remover material sexual inapropriado, enquanto o filtro de toxicidade tem um enfoque mais amplo, removendo conteúdo relacionado a violência, sexismo e elementos prejudiciais semelhantes. O filtro de viés aborda viés de gênero, raça e outros.
226
 
227
- Como não era prático revisar manualmente todo o conjunto de dados, a validação da eficiência dos filtros foi realizada usando dados amostrais. No entanto, ainda pode existir um pequeno grau de contaminação no corpus. Os usuários são responsáveis por revisar e filtrar qualquer conteúdo potencialmente inadequado.
228
 
229
  Os dados do corpus são provenientes principalmente do [Common Crawl](https://commoncrawl.org/), que coleta conteúdo publicamente acessível. Uma das principais preocupações foi validar se algum do conteúdo extraído infringia proteções de direitos autorais. Um esforço rigoroso foi feito para remover quaisquer documentos que pudessem violar as leis de direitos autorais.
230
 
231
  # Informações de Citação
232
- Nosso artigo "Aroeira: Um Corpus Curado para a Língua Portuguesa com um Grande Número de Tokens", que descreve completamente a criação do corpus, foi aceito na 34ª Conferência Brasileira de Sistemas Inteligentes (BRACIS), que ocorrerá em novembro de 2024. Em breve, forneceremos instruções detalhadas sobre como citá-lo corretamente.
 
164
 
165
  **Desenvolvedor do Conjunto de Dados:** Instituto de Ciência e Tecnologia Itaú-Unibanco (ICTi)
166
 
167
+ **Arquitetura de Criação do Conjunto de Dados:** A criação do corpus é dividida em módulos, (i) coleta (Pipeline de Dados) e (ii) garantia de segurança do conteúdo (Pipeline de Segurança de Conteúdo). O pipeline completo contém nove etapas: coleta e amostragem de dados, extração de texto, identificação de idioma, remoção de duplicados e filtros de qualidade no Pipeline de Dados, e filtro de conteúdo sexual, filtro de dados tóxicos, filtro de viés e categorização no Pipeline de Segurança de Conteúdo.
168
 
169
  **Idiomas Suportados:** Português Brasileiro (PT-BR) e Português de Portugal (PT-PT).
170
 
 
224
 
225
  O filtro de conteúdo sexual se concentra em remover material sexual inapropriado, enquanto o filtro de toxicidade tem um enfoque mais amplo, removendo conteúdo relacionado a violência, sexismo e elementos prejudiciais semelhantes. O filtro de viés aborda viés de gênero, raça e outros.
226
 
227
+ Como não era prático revisar manualmente todo o conjunto de dados, a validação da eficiência dos filtros foi realizada usando dados amostrais. Desse modo, ainda pode existir um pequeno grau de contaminação no corpus. Os usuários são responsáveis por revisar e filtrar qualquer conteúdo potencialmente inadequado.
228
 
229
  Os dados do corpus são provenientes principalmente do [Common Crawl](https://commoncrawl.org/), que coleta conteúdo publicamente acessível. Uma das principais preocupações foi validar se algum do conteúdo extraído infringia proteções de direitos autorais. Um esforço rigoroso foi feito para remover quaisquer documentos que pudessem violar as leis de direitos autorais.
230
 
231
  # Informações de Citação
232
+ O artigo "Aroeira: A Curated Corpus for the Portuguese Language with a Large Number of Tokens", que descreve completamente a criação do corpus, foi aceito na 34ª Conferência Brasileira de Sistemas Inteligentes (BRACIS), que ocorrerá em novembro de 2024. Em breve, forneceremos instruções detalhadas sobre como citá-lo corretamente.