tallesl commited on
Commit
608a474
·
1 Parent(s): 393487e
Files changed (1) hide show
  1. README.md +74 -0
README.md ADDED
@@ -0,0 +1,74 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # BlogSet-BR
2
+
3
+ Reprodução do dataset [BlogSet-BR criado pela universidade PUCRS](https://www.inf.pucrs.br/linatural/wordpress/recursos-e-ferramentas/blogset-br/).
4
+
5
+ ## Dataset Original
6
+
7
+ O dataset original sem modificações encontra-se em [blogsetbr-original.csv](blogsetbr-original.csv) (7.477.853
8
+ registros).
9
+
10
+ ## Dataset Modificado
11
+
12
+ O dataset modificado pode ser encontrado em [blogsetbr-modificado.csv](blogsetbr-modificado.csv) (7.468.541 registros).
13
+
14
+ Três modificações foram realizadas:
15
+
16
+ - Remoção de registros duplicados (9.312 registros removidos).
17
+ - Remoção dos registros `4115562869749683982`, `6946372492808055983`, e `8940733596261645225`, devido à problemas de escape.
18
+ - Adicionado um cabeçalho ao arquivo.
19
+
20
+ O seguinte cabeçalho foi adicionado:
21
+
22
+ ```
23
+ post.id,blog.id,published,title,content,author.id,author.displayName,replies.totalItems,tags
24
+ ```
25
+
26
+ ## Dataset de Exemplos
27
+
28
+ Um arquivo menor, contendo 30 mil registros aleatoriamente selecionados, pode ser encontrado aqui em
29
+ [blogsetbr-exemplos.csv](blogsetbr-exemplos.csv)
30
+
31
+ ## Carregando os Dados em um Banco Postgres
32
+
33
+ No meu caso, carreguei os dados em um banco de dados Postgres para manipulação dos mesmos. Segue abaixo o que fiz
34
+ (utilizando `psql`) para a carga.
35
+
36
+ Primeiramente, crie o banco de dados:
37
+
38
+ ```
39
+ create database blogsetbr_exemplos owner myuser;
40
+ ```
41
+
42
+ Conectando ao banco de dados criado:
43
+
44
+ ```
45
+ \c blogsetbr
46
+ ```
47
+
48
+ Criando uma tabela baseada no cabeçalho do arquivo CSV:
49
+
50
+ ```
51
+ create table posts (
52
+ post_id text primary key,
53
+ blog_id text,
54
+ published text,
55
+ title text,
56
+ content text,
57
+ author_id text,
58
+ author_displayName text,
59
+ replies_totalItems text,
60
+ tags text
61
+ );
62
+ ```
63
+
64
+ Realizando a carga do arquivo para a tabela recém criada:
65
+
66
+ ```
67
+ \copy posts from '~/Downloads/blogsetbr.csv' with delimiter ',' csv header;
68
+ ```
69
+
70
+ Checando a quantidade de registros após a cópia:
71
+
72
+ ```
73
+ select count(*) from posts;
74
+ ```