{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "987161c5-2de7-408a-91ce-64d190c7115f",
   "metadata": {},
   "outputs": [],
   "source": [
    "!wget https://github.com/PyThaiNLP/thai-law/releases/download/v0.2/law.csv"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 1,
   "id": "8212d5df-e02e-4cc3-b179-e2391daefa4e",
   "metadata": {
    "tags": []
   },
   "outputs": [],
   "source": [
    "import json\n",
    "import pandas as pd\n",
    "import re\n",
    "from datasets import load_dataset\n",
    "from tqdm.auto import tqdm"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 2,
   "id": "9314d646-6a8d-4da7-8250-2845de0d07e4",
   "metadata": {
    "tags": []
   },
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "thai law\n"
     ]
    }
   ],
   "source": [
    "print(\"thai law\")\n",
    "df=pd.read_csv(\"law.csv\")\n",
    "def clean_newlines(txt):\n",
    "    return re.sub('(\\n+)','\\n',txt).strip().replace(\"\\xa0\",\"\")"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 3,
   "id": "9153f087-2122-4bde-a016-c1130af8dc84",
   "metadata": {
    "tags": []
   },
   "outputs": [
    {
     "data": {
      "text/html": [
       "<div>\n",
       "<style scoped>\n",
       "    .dataframe tbody tr th:only-of-type {\n",
       "        vertical-align: middle;\n",
       "    }\n",
       "\n",
       "    .dataframe tbody tr th {\n",
       "        vertical-align: top;\n",
       "    }\n",
       "\n",
       "    .dataframe thead th {\n",
       "        text-align: right;\n",
       "    }\n",
       "</style>\n",
       "<table border=\"1\" class=\"dataframe\">\n",
       "  <thead>\n",
       "    <tr style=\"text-align: right;\">\n",
       "      <th></th>\n",
       "      <th>sysid</th>\n",
       "      <th>title</th>\n",
       "      <th>txt</th>\n",
       "    </tr>\n",
       "  </thead>\n",
       "  <tbody>\n",
       "    <tr>\n",
       "      <th>0</th>\n",
       "      <td>726890</td>\n",
       "      <td>กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nกฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>1</th>\n",
       "      <td>301085</td>\n",
       "      <td>กฎบัตรสหประชาชาติ ค.ศ. 1945</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\n \\n\\n\\n\\n\\n\\n\\n \\n \\n \\n \\n ...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>2</th>\n",
       "      <td>740727</td>\n",
       "      <td>ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศกระทรวงมหาดไทย\\n\\n\\n\\n...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>3</th>\n",
       "      <td>497860</td>\n",
       "      <td>ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล...</td>\n",
       "      <td>\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\n...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>4</th>\n",
       "      <td>490191</td>\n",
       "      <td>ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศ\\n\\n\\n\\n\\n\\n\\nประกาศ\\n...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>...</th>\n",
       "      <td>...</td>\n",
       "      <td>...</td>\n",
       "      <td>...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42750</th>\n",
       "      <td>771111</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42751</th>\n",
       "      <td>771127</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42752</th>\n",
       "      <td>771129</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42753</th>\n",
       "      <td>771099</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42754</th>\n",
       "      <td>771109</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ...</td>\n",
       "      <td>\\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...</td>\n",
       "    </tr>\n",
       "  </tbody>\n",
       "</table>\n",
       "<p>42755 rows × 3 columns</p>\n",
       "</div>"
      ],
      "text/plain": [
       "        sysid                                              title  \\\n",
       "0      726890  กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน...   \n",
       "1      301085                        กฎบัตรสหประชาชาติ ค.ศ. 1945   \n",
       "2      740727  ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ...   \n",
       "3      497860  ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล...   \n",
       "4      490191  ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ...   \n",
       "...       ...                                                ...   \n",
       "42750  771111  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...   \n",
       "42751  771127  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...   \n",
       "42752  771129  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...   \n",
       "42753  771099  ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื...   \n",
       "42754  771109  ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ...   \n",
       "\n",
       "                                                     txt  \n",
       "0      \\n\\n\\n\\n\\n\\n\\n\\n\\nกฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\...  \n",
       "1      \\n\\n\\n\\n\\n\\n\\n\\n\\n \\n\\n\\n\\n\\n\\n\\n \\n \\n \\n \\n ...  \n",
       "2      \\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศกระทรวงมหาดไทย\\n\\n\\n\\n...  \n",
       "3      \\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\n...  \n",
       "4      \\n\\n\\n\\n\\n\\n\\n\\n\\nประกาศ\\n\\n\\n\\n\\n\\n\\nประกาศ\\n...  \n",
       "...                                                  ...  \n",
       "42750  \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...  \n",
       "42751  \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...  \n",
       "42752  \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...  \n",
       "42753  \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...  \n",
       "42754  \\n\\n\\n\\n\\n\\n\\n\\n\\nข้อบัญญัติองค์การบริหารส่วนต...  \n",
       "\n",
       "[42755 rows x 3 columns]"
      ]
     },
     "execution_count": 3,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "df"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 4,
   "id": "e29505f7-b07b-401a-a3a7-69eeb75b4608",
   "metadata": {
    "tags": []
   },
   "outputs": [
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "03dabf81de1e4c0f82f2ee64bccc55a0",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "  0%|          | 0/42755 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    }
   ],
   "source": [
    "df[\"txt\"]=[clean_newlines(i) for i in tqdm(df[\"txt\"])]"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 5,
   "id": "ed58f0bc-3857-44af-a55f-b48958a22477",
   "metadata": {
    "tags": []
   },
   "outputs": [
    {
     "data": {
      "text/html": [
       "<div>\n",
       "<style scoped>\n",
       "    .dataframe tbody tr th:only-of-type {\n",
       "        vertical-align: middle;\n",
       "    }\n",
       "\n",
       "    .dataframe tbody tr th {\n",
       "        vertical-align: top;\n",
       "    }\n",
       "\n",
       "    .dataframe thead th {\n",
       "        text-align: right;\n",
       "    }\n",
       "</style>\n",
       "<table border=\"1\" class=\"dataframe\">\n",
       "  <thead>\n",
       "    <tr style=\"text-align: right;\">\n",
       "      <th></th>\n",
       "      <th>sysid</th>\n",
       "      <th>title</th>\n",
       "      <th>txt</th>\n",
       "    </tr>\n",
       "  </thead>\n",
       "  <tbody>\n",
       "    <tr>\n",
       "      <th>0</th>\n",
       "      <td>726890</td>\n",
       "      <td>กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน...</td>\n",
       "      <td>กฎบัตรสหประชาชาติ\\nกฎบัตรสหประชาชาติ\\nซึ่งรับต...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>1</th>\n",
       "      <td>301085</td>\n",
       "      <td>กฎบัตรสหประชาชาติ ค.ศ. 1945</td>\n",
       "      <td>กฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>2</th>\n",
       "      <td>740727</td>\n",
       "      <td>ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ...</td>\n",
       "      <td>ประกาศกระทรวงมหาดไทย\\nประกาศกระทรวงมหาดไทย\\nเร...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>3</th>\n",
       "      <td>497860</td>\n",
       "      <td>ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล...</td>\n",
       "      <td>ประกาศ\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\nกา...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>4</th>\n",
       "      <td>490191</td>\n",
       "      <td>ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ...</td>\n",
       "      <td>ประกาศ\\nประกาศ\\nการมีผลใช้บังคับของความตกลง\\nร...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>...</th>\n",
       "      <td>...</td>\n",
       "      <td>...</td>\n",
       "      <td>...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42750</th>\n",
       "      <td>771111</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42751</th>\n",
       "      <td>771127</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42752</th>\n",
       "      <td>771129</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42753</th>\n",
       "      <td>771099</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื...</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน\\nข้...</td>\n",
       "    </tr>\n",
       "    <tr>\n",
       "      <th>42754</th>\n",
       "      <td>771109</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ...</td>\n",
       "      <td>ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง\\nข้อบัญญัต...</td>\n",
       "    </tr>\n",
       "  </tbody>\n",
       "</table>\n",
       "<p>42755 rows × 3 columns</p>\n",
       "</div>"
      ],
      "text/plain": [
       "        sysid                                              title  \\\n",
       "0      726890  กฎบัตรสหประชาชาติ ซึ่งรับตกลงกัน ณ เมืองซานฟาน...   \n",
       "1      301085                        กฎบัตรสหประชาชาติ ค.ศ. 1945   \n",
       "2      740727  ประกาศกระทรวงมหาดไทย เรื่อง การออกหนังสือผ่านแ...   \n",
       "3      497860  ประกาศการมีผลใช้บังคับของความตกลงระหว่างรัฐบาล...   \n",
       "4      490191  ประกาศ การมีผลใช้บังคับของความตกลง ระหว่าง รัฐ...   \n",
       "...       ...                                                ...   \n",
       "42750  771111  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...   \n",
       "42751  771127  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...   \n",
       "42752  771129  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร เรื่อง ...   \n",
       "42753  771099  ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน เรื...   \n",
       "42754  771109  ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง เรื่อง กิจ...   \n",
       "\n",
       "                                                     txt  \n",
       "0      กฎบัตรสหประชาชาติ\\nกฎบัตรสหประชาชาติ\\nซึ่งรับต...  \n",
       "1      กฎบัตรสหประชาชาติ\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\n\\...  \n",
       "2      ประกาศกระทรวงมหาดไทย\\nประกาศกระทรวงมหาดไทย\\nเร...  \n",
       "3      ประกาศ\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\n\\r\\nประกาศ\\r\\nกา...  \n",
       "4      ประกาศ\\nประกาศ\\nการมีผลใช้บังคับของความตกลง\\nร...  \n",
       "...                                                  ...  \n",
       "42750  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...  \n",
       "42751  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...  \n",
       "42752  ข้อบัญญัติองค์การบริหารส่วนตำบลนิลเพชร\\nข้อบัญ...  \n",
       "42753  ข้อบัญญัติองค์การบริหารส่วนตำบลสว่างแดนดิน\\nข้...  \n",
       "42754  ข้อบัญญัติองค์การบริหารส่วนตำบลฉลอง\\nข้อบัญญัต...  \n",
       "\n",
       "[42755 rows x 3 columns]"
      ]
     },
     "execution_count": 5,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "df"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 6,
   "id": "4f4d4ed4-a1c7-4fc9-ab93-c189552901a5",
   "metadata": {
    "tags": []
   },
   "outputs": [],
   "source": [
    "df.to_parquet(\"law.parquet\", row_group_size=100, engine=\"pyarrow\")"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 7,
   "id": "538a4c1d-c68c-424f-bba4-7ad594ccc56d",
   "metadata": {
    "tags": []
   },
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Downloading and preparing dataset parquet/default to /root/.cache/huggingface/datasets/parquet/default-bd65acfd4d849e9c/0.0.0/2a3b91fbd88a2c90d1dbbb32b460cf621d31bd5b05b934492fdef7d8d6f236ec...\n"
     ]
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "622e7c8bc5e84f1fa2a9f84006683cd8",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Downloading data files:   0%|          | 0/1 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "461a3d5ce0344922ab14edc411514ac0",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Extracting data files:   0%|          | 0/1 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Generating train split: 0 examples [00:00, ? examples/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Dataset parquet downloaded and prepared to /root/.cache/huggingface/datasets/parquet/default-bd65acfd4d849e9c/0.0.0/2a3b91fbd88a2c90d1dbbb32b460cf621d31bd5b05b934492fdef7d8d6f236ec. Subsequent calls will reuse this data.\n"
     ]
    }
   ],
   "source": [
    "from datasets import Dataset\n",
    "\n",
    "ds = Dataset.from_parquet(\"law.parquet\")"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "51555bbd-0957-470b-ab7a-f371e8f8923e",
   "metadata": {
    "tags": []
   },
   "outputs": [
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "d9c80dfba24144e8a6a2d5dd3e072f4f",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Pushing dataset shards to the dataset hub:   0%|          | 0/2 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "c36a0b7d273d446dbe4fc12b0ac6cf48",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Creating parquet from Arrow format:   0%|          | 0/22 [00:00<?, ?ba/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "c6df916491294c73b0fe1019977d0ae0",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Upload 1 LFS files:   0%|          | 0/1 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "e921ce4e4ac54017b611d9b19da36a2e",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Creating parquet from Arrow format:   0%|          | 0/22 [00:00<?, ?ba/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "9cecce6552e142d19c4b29b5319acfd9",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Upload 1 LFS files:   0%|          | 0/1 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    }
   ],
   "source": [
    "ds.push_to_hub(\"pythainlp/thailaw\",private=True)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "9dca6ffb-2549-422b-89f3-0b9d85a1d218",
   "metadata": {},
   "outputs": [],
   "source": []
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3 (ipykernel)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.8.10"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}