README.md
ADDED
@@ -0,0 +1,74 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
# BlogSet-BR
|
2 |
+
|
3 |
+
Reprodução do dataset [BlogSet-BR criado pela universidade PUCRS](https://www.inf.pucrs.br/linatural/wordpress/recursos-e-ferramentas/blogset-br/).
|
4 |
+
|
5 |
+
## Dataset Original
|
6 |
+
|
7 |
+
O dataset original sem modificações encontra-se em [blogsetbr-original.csv](blogsetbr-original.csv) (7.477.853
|
8 |
+
registros).
|
9 |
+
|
10 |
+
## Dataset Modificado
|
11 |
+
|
12 |
+
O dataset modificado pode ser encontrado em [blogsetbr-modificado.csv](blogsetbr-modificado.csv) (7.468.541 registros).
|
13 |
+
|
14 |
+
Três modificações foram realizadas:
|
15 |
+
|
16 |
+
- Remoção de registros duplicados (9.312 registros removidos).
|
17 |
+
- Remoção dos registros `4115562869749683982`, `6946372492808055983`, e `8940733596261645225`, devido à problemas de escape.
|
18 |
+
- Adicionado um cabeçalho ao arquivo.
|
19 |
+
|
20 |
+
O seguinte cabeçalho foi adicionado:
|
21 |
+
|
22 |
+
```
|
23 |
+
post.id,blog.id,published,title,content,author.id,author.displayName,replies.totalItems,tags
|
24 |
+
```
|
25 |
+
|
26 |
+
## Dataset de Exemplos
|
27 |
+
|
28 |
+
Um arquivo menor, contendo 30 mil registros aleatoriamente selecionados, pode ser encontrado aqui em
|
29 |
+
[blogsetbr-exemplos.csv](blogsetbr-exemplos.csv)
|
30 |
+
|
31 |
+
## Carregando os Dados em um Banco Postgres
|
32 |
+
|
33 |
+
No meu caso, carreguei os dados em um banco de dados Postgres para manipulação dos mesmos. Segue abaixo o que fiz
|
34 |
+
(utilizando `psql`) para a carga.
|
35 |
+
|
36 |
+
Primeiramente, crie o banco de dados:
|
37 |
+
|
38 |
+
```
|
39 |
+
create database blogsetbr_exemplos owner myuser;
|
40 |
+
```
|
41 |
+
|
42 |
+
Conectando ao banco de dados criado:
|
43 |
+
|
44 |
+
```
|
45 |
+
\c blogsetbr
|
46 |
+
```
|
47 |
+
|
48 |
+
Criando uma tabela baseada no cabeçalho do arquivo CSV:
|
49 |
+
|
50 |
+
```
|
51 |
+
create table posts (
|
52 |
+
post_id text primary key,
|
53 |
+
blog_id text,
|
54 |
+
published text,
|
55 |
+
title text,
|
56 |
+
content text,
|
57 |
+
author_id text,
|
58 |
+
author_displayName text,
|
59 |
+
replies_totalItems text,
|
60 |
+
tags text
|
61 |
+
);
|
62 |
+
```
|
63 |
+
|
64 |
+
Realizando a carga do arquivo para a tabela recém criada:
|
65 |
+
|
66 |
+
```
|
67 |
+
\copy posts from '~/Downloads/blogsetbr.csv' with delimiter ',' csv header;
|
68 |
+
```
|
69 |
+
|
70 |
+
Checando a quantidade de registros após a cópia:
|
71 |
+
|
72 |
+
```
|
73 |
+
select count(*) from posts;
|
74 |
+
```
|