Adding data structure to the repo

corpus/files/metadata_fem_18to49_yrs.tsv

@@ -0,0 +1,14 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+001023-0013981	001023	female	20-29	7.34	V+F	einnig er leyfilegt að dreifa ösku innan kirkjugarðs eða yfir haf og óbyggðir
+001023-0013978	001023	female	20-29	5.72	V+F	bretarnir björguðu hannesi um borð og hættu veiðunum
+001023-0013982	001023	female	20-29	3.80	V+F	til á sumum bókasöfnum á íslandi
+001136-0007995	001136	female	40-49	6.27	V+F	hvort tveggja er þó sennilega jafnrangt lofið og lastið
+000664-0013663	000664	female	30-39	3.78	V+F	mattías lækkaðu í hátalaranum
+000664-0013667	000664	female	30-39	3.48	V+F	karkur hvernig er veðrið á morgun
+000228-0014032	000228	female	30-39	6.61	V+F	garðaskóli er grunnskóli á unglingastigi staðsettur í garðabæ
+000228-0014065	000228	female	30-39	5.93	V+F	sennilega telur stofninn yfir eina milljón fugla að hausti
+000228-0014064	000228	female	30-39	5.38	V+F	frosinn koltvísýringur eða þurrís
+000228-0014028	000228	female	30-39	5.72	V+F	konungurinn var þekktur fyrir trúrækni sína og trúarhita
+000228-0014031	000228	female	30-39	5.08	V+F	orðið kerling er til í öllum norðurlandamálum
+000228-0014063	000228	female	30-39	7.72	V+F	vegna truflunar á blóðflæði verður frumudauði í beinvef sem leiðir til beineyðingar
+000228-0014029	000228	female	30-39	4.82	V+F	merkingin breyttist sennilega snemma

corpus/files/metadata_fem_gt_49_yrs.tsv

@@ -0,0 +1,12 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+001877-0013917	001877	female	60-69	5.80	V+F	margar frásagnir eru um að slíkt hafi gerst
+001877-0013916	001877	female	60-69	7.85	V+F	það þýðist yfirvalds konungur síns undirgefins fólks
+001850-0013702	001850	female	50-59	5.67	V+F	fyrsti skólameistarinn var jón friðberg hjartarson
+001826-0013553	001826	female	50-59	7.08	V+F	þar beittu menn þeir sem jafnframt voru í fiski einnig lóðir sínar
+001826-0013552	001826	female	50-59	9.48	V+F	þá er talað um nærri því dauða upplifun
+001826-0013556	001826	female	50-59	5.82	V+F	þeir gefa sér eftirfarandi frumsendur
+001826-0013555	001826	female	50-59	6.60	V+F	eiginlega enginn að minnsta kosti enginn einn
+001828-0013567	001828	female	50-59	6.60	V+F	honum bregður einnig fyrir í öðrum samræðum heimspekingsins
+001828-0013570	001828	female	50-59	7.68	V+F	bókin endar á því að harry fer aftur til ættingja sinna í sumarfrí
+001828-0013568	001828	female	50-59	6.06	V+F	styrkur hans lá í óhemjubreiðum þekkingargrunni
+001828-0013571	001828	female	50-59	4.50	V+F	upphæðir eru í milljónum króna

corpus/files/metadata_fem_lt_18_yrs.tsv

@@ -0,0 +1,9 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+008295-0206559	008295	female	12	1.90	V+F	það var áður en hún dó
+009440-0230771	009440	female	11	6.97	V+F	þarna stóð þessi krullaði krakki með útrétta hönd
+010248-0243061	010248	female	16	2.65	V+F	og þá væri hægt að mynda þau öll
+010248-0243067	010248	female	16	4.18	V+F	hann var dálítið eins og afi
+010248-0243126	010248	female	16	4.01	V+F	það er þess vegna sem ég þekki söguna
+010248-0243109	010248	female	16	3.58	V+F	en fékk ekkert af viti út úr lenu
+010248-0242949	010248	female	16	4.99	V+F	þau gáfu mér hvíta hanska í jólagjöf
+010247-0243027	010247	female	13	4.31	V+F	ég var alltaf að vona að þú kæmir til okkar

corpus/files/metadata_male_18to49_yrs.tsv

@@ -0,0 +1,9 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+001835-0013610	001835	male	40-49	4.26	V+F	tvær krumlur fálmuðu á móti honum
+001835-0013611	001835	male	40-49	4.86	V+F	þeir sneru við og fóru aftur inn í salinn til hinna
+001832-0013593	001832	male	40-49	4.86	V+F	kísilgel er bæði ódýrt og hættulítið
+001832-0013597	001832	male	40-49	5.52	V+F	svo er auðvitað í góðu lagi að borða allar tegundir af fiski
+001832-0013594	001832	male	40-49	6.12	V+F	orsökin fyrir tilurð þeirra er sú að sýklalyf eru sterkur valkraftur
+001817-0013547	001817	male	30-39	5.88	V+F	efnisagnir í skýinu sem snerust umhverfis frumsólina
+001817-0013551	001817	male	30-39	5.34	V+F	og hann hélt áfram að berjast fyrir málstað opinna samskipta
+001135-0007985	001135	male	40-49	7.38	V+F	tildra er svokallaður umferðarfugl hér á landi

corpus/files/metadata_male_gt_49_yrs.tsv

@@ -0,0 +1,15 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+001861-0013762	001861	male	50-59	2.43	V+F	kannski var það af nýtni
+001861-0013760	001861	male	50-59	3.07	V+F	skömmu eftir miðnætti
+001861-0013759	001861	male	50-59	4.82	V+F	jöklar hafa látið verulega á sjá í ölpunum
+001834-0013604	001834	male	60-69	7.99	V+F	á síðunni er að finna mikinn fróðleik um tennur og tannhirðu
+001834-0013607	001834	male	60-69	5.90	V+F	aðstreymi hennar er frekar hægt
+001831-0013587	001831	male	60-69	5.20	V+F	fjöldi mismunandi leyninúmera er því
+001831-0013586	001831	male	60-69	7.38	V+F	þau stóðu undir helmingi heimsframleiðslunnar efnahagslega
+001831-0013585	001831	male	60-69	5.99	V+F	í fyrstu málfræðiritgerðinni
+001825-0013581	001825	male	50-59	10.03	V+F	þótt ótrúlegt megi virðast gegna allar lífverur einhverju hlutverki hér á jörðinni
+001825-0013563	001825	male	50-59	7.34	V+F	kyn skollakoppa eru aðskilin eins og hjá langflestum skrápdýrum
+001825-0013580	001825	male	50-59	4.04	V+F	ástæðan er sú að hvíta litarefnið
+001825-0013565	001825	male	50-59	3.44	V+F	roð er tennt
+001825-0013582	001825	male	50-59	6.36	V+F	aftast í svarinu er síðan svarað nokkrum hagnýtum spurningum um teflon
+001825-0013564	001825	male	50-59	5.06	V+F	rifsvör hefur verið rudd gegnum stórgrýti og hellulögð

corpus/files/metadata_male_lt_18_yrs.tsv

@@ -0,0 +1,9 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+010244-0261855	010244	male	16	50.70	V+F	já það er mikil guðsgjöf fyrir okkur öll sagði kristín
+010244-0242950	010244	male	16	7.20	V+F	ég vona bara að það fáist upp á hund
+010245-0243134	010245	male	15	4.92	V+F	vatnið var ískalt og maja byrjaði strax að skjálfa
+010245-0242972	010245	male	15	3.90	V+F	ég lagði mitt af mörkum til að þýskaland hyrfi
+010245-0243037	010245	male	15	3.12	V+F	hver ert þú ef ég má spyrja
+010245-0243077	010245	male	15	3.84	V+F	hvert þykist þú vera að fara
+010243-0272361	010243	male	15	3.24	V+F	svo kom vísa um ömmu og hann
+008843-0211513	008843	male	12	3.67	V+F	hann hafði beðið í tuttugu ár

corpus/files/metadata_other.tsv

@@ -0,0 +1,141 @@
+audio_id	speaker_id	gender	age	duration	verified_with	normalized_text
+004722-0037347	004722	female	NAN	3.24	V+F	að minnsta kosti þegar ég var ung
+010363-0273720	010363	other	13	4.02	V+F	sveinar einhvern tímann þarf allt að taka enda
+010363-0258898	010363	other	13	3.12	V+F	sabína hvað er klukkan
+010363-0273717	010363	other	13	3.18	V+F	irpa hvernig er veðrið í dag
+010363-0258896	010363	other	13	4.02	V+F	hann mundi kosta svo og svo mikið
+010363-0258466	010363	other	13	3.24	V+F	það er bók mín aðrir sálmar
+010363-0258454	010363	other	13	3.00	V+F	hlakkaði óskaplega til að verða mamma
+010363-0258469	010363	other	13	3.24	V+F	ásdís hvaða mánaðardagur er í dag
+010363-0258456	010363	other	13	4.86	V+F	oktavíus syngdu fyrir mig kaupmaðurinn á horninu
+010363-0258476	010363	other	13	4.32	V+F	einkum og sér í lagi gamlar spýtur
+010363-0258473	010363	other	13	3.06	V+F	snæbrá hvað er í matinn á mánudaginn
+010363-0258459	010363	other	13	3.00	V+F	auðrún hækkaðu í hátalaranum
+010363-0258477	010363	other	13	5.94	V+F	gat hugsast að ragnar hefði verið einn í mannlausu húsi
+010363-0273711	010363	other	13	3.12	V+F	svo tróð hann því niður í tösku
+010363-0258474	010363	other	13	3.42	V+F	stundum var þó erfitt að gera neitt af þessu
+010363-0258463	010363	other	13	3.30	V+F	hofdís hækkaðu í græjunum
+010363-0273708	010363	other	13	3.36	V+F	honum finnst sem hann leyfi það
+010363-0258443	010363	other	13	2.88	V+F	það er svona að vera vinsæll
+013108-0375097	013108	other	14	2.94	V+F	sólbjartur opnaðu dagatalið mitt
+013108-0375256	013108	other	14	2.69	V+F	sólný hvað er í matinn á föstudaginn
+013108-0375020	013108	other	14	1.96	V+F	hansína hvað er klukkan
+013108-0375180	013108	other	14	2.90	V+F	en þú ert líka fyrsta barnið hennar mömmu þinnar
+013108-0375153	013108	other	14	2.52	V+F	herbjört ekki fórstu með þeim
+013108-0375073	013108	other	14	2.65	V+F	guðríður hvernig er veðurspáin
+013108-0375229	013108	other	14	2.30	V+F	það er ekki langt að fara
+013387-0405101	013387	other	13	2.22	V+F	krissa hækkaðu í hátalaranum
+013387-0405023	013387	other	13	2.22	V+F	ég þegi eins og steinn þú veist það
+013387-0404640	013387	other	13	2.22	V+F	viltu ekki setja tækið í gang
+013387-0898704	013387	other	13	3.93	V+F	eyfríður hvenær kemur vagn númer þrjátíu og eitt
+013387-0703678	013387	other	13	2.90	V+F	kannski fékk hann það aldrei með eigin börn
+013387-1271353	013387	other	13	2.86	V+F	ég má ekki tala svona hátt andvarpaði hann svo
+013387-1270284	013387	other	13	4.05	V+F	en auðvitað fannst mér ég mjög fáránlegur í slíku samtali
+013387-0898840	013387	other	13	2.82	V+F	víðar ferð þú með okkur á miðvikudaginn
+013387-1264275	013387	other	13	2.13	V+F	hvaða leyndarmál ættu það að vera
+013387-1264144	013387	other	13	3.41	V+F	getur verið að friðþjófur hafi spunnið upp rangt atferli
+013387-0898730	013387	other	13	3.03	V+F	þú lýgur því sagði andri fullur aðdáunar
+013387-1272397	013387	other	13	2.60	V+F	einhver strákur kallar er nokkuð í honum
+013387-0900575	013387	other	13	2.90	V+F	hann var um margt langt á undan samtíð sinni
+013387-0704288	013387	other	13	3.20	V+F	gulli stilltu niðurteljara á þrjátíu mínútur
+013387-0404813	013387	other	13	1.75	V+F	er ekki allt í lagi elskan
+013387-1270701	013387	other	13	3.16	V+F	ég lagði búrið frá mér og settist á steinhlaðinn bakkann
+013387-0706295	013387	other	13	2.22	V+F	þar á meðal er brauð með eggi
+013387-0900474	013387	other	13	2.05	V+F	og menn eiga að vera með mönnum
+013387-0404798	013387	other	13	3.54	V+F	sæmunda hringdu í mars eftir fimmtíu og sjö mínútur
+013387-0900438	013387	other	13	2.26	V+F	hann var kominn heim á hádegi
+013387-1272519	013387	other	13	4.01	V+F	ég var að hugsa um sumarbústaðinn afmælið veðrið og vatnið
+013157-0388236	013157	other	14	5.67	V+F	ónar manstu hvað verslunin hét sem við fórum í á mánudaginn
+013157-0381470	013157	other	14	4.61	V+F	svanhólm hvaða leikir eru í kvöld
+013157-0388278	013157	other	14	3.46	V+F	skuggi er opið í kjötborg
+013157-0388388	013157	other	14	4.05	V+F	þórveig hvað er klukkan
+013157-0381354	013157	other	14	4.22	V+F	estel hvað er í dagatalinu mínu í dag
+013157-0381382	013157	other	14	3.50	V+F	gangi þér allt í haginn addý
+013157-0388425	013157	other	14	3.16	V+F	berit hvað er jörðin stór
+013157-0388504	013157	other	14	3.20	V+F	ingberg er bolti á föstudaginn
+013157-0383297	013157	other	14	3.07	V+F	nökkvi lækkaðu í hátalaranum
+013157-0387952	013157	other	14	4.78	V+F	tjaldur hvernig er veðrið á morgun
+013157-0383262	013157	other	14	3.84	V+F	hlökk er opið í landsbankanum
+013157-0383275	013157	other	14	5.25	V+F	auðólfur stilltu niðurteljara á átján mínútur
+013157-0388250	013157	other	14	4.44	V+F	ívan hvað er opið lengi á föstudaginn
+013157-0382898	013157	other	14	3.29	V+F	axelma slökktu á niðurteljaranum
+013157-0383528	013157	other	14	3.84	V+F	irene er bolti á fimmtudaginn
+013157-0383312	013157	other	14	2.94	V+F	hagbarður lækkaðu í hátalaranum
+013157-0382793	013157	other	14	3.97	V+F	hróðvar hvaða sýningar eru í leikhúsinu á mánudaginn
+013157-0388345	013157	other	14	4.86	V+F	lilla var orðin móð en fúsi náði henni ekki
+013157-0388539	013157	other	14	3.80	V+F	sólbjörn hvaða leikir eru í kvöld
+013157-0383442	013157	other	14	3.71	V+F	sælaug hvað er opið lengi á þriðjudaginn
+013157-0388261	013157	other	14	3.29	V+F	gulli hvað er í matinn
+013157-0383459	013157	other	14	3.20	V+F	kolskeggur hækkaðu í hátalaranum
+013157-0383454	013157	other	14	2.69	V+F	eldgrímur hvað er klukkan
+013157-0381455	013157	other	14	3.54	V+F	stína hefur þú prófað nýja leikinn
+013157-0388406	013157	other	14	2.77	V+F	dalvin spilaðu tónlist
+013157-0388443	013157	other	14	4.39	V+F	sigurður hvað er í dagatalinu mínu í dag
+013157-0388522	013157	other	14	3.11	V+F	hjörtþór kveiktu á sjónvarpinu
+013157-0381179	013157	other	14	3.67	V+F	rósinberg hvernig kemst ég þangað
+002444-0018248	002444	other	40-49	8.27	V+F	þegar snörurnar voru dregnar í gegnum götin á flekunum
+002444-0018244	002444	other	40-49	5.80	V+F	margar tegundir mynda rætur á stönglum
+002444-0018247	002444	other	40-49	8.31	V+F	sumir málfræðingar leggja megináherslu á það sem er sögulega réttast
+001206-0008492	001206	other	20-29	3.00	V+F	þegar fólk velur sér til dæmis myndverk
+001172-0013198	001172	other	40-49	5.26	V+F	hann hóf byggingu á nýrri höfuðborg sem hann nefndi akhetaten
+001172-0013216	001172	other	40-49	5.76	V+F	nú er kominn tími til að svara spurningunni af hverju grasið er grænt
+001172-0013271	001172	other	40-49	4.15	V+F	í kjölfarið byrjuðu húsþök að hrynja
+001172-0013253	001172	other	40-49	6.07	V+F	hvort og hversu mikið fólk fitnar er samspil bæði erfða og umhverfisþátta
+001172-0013255	001172	other	40-49	3.97	V+F	marlín kveiktu á sjónvarpinu
+001172-0013200	001172	other	40-49	2.99	V+F	eitt dæmi er um býflugur
+001172-0013274	001172	other	40-49	4.00	V+F	fáir virðast eins grunlausir um þau víti
+001172-0013252	001172	other	40-49	2.82	V+F	enda er ljóst
+001172-0013275	001172	other	40-49	3.37	V+F	kettir veiða ekki endilega mýs
+001172-0008205	001172	other	40-49	4.99	V+F	þar hélt hann áfram vinnu við rafmagn og segulmagn
+001172-0013257	001172	other	40-49	3.97	V+F	nánari upplýsingar um ferðir má einnig finna hér
+001172-0013294	001172	other	40-49	3.81	V+F	fjallið fyrir ofan bæinn heitir goðdalakista
+001172-0013202	001172	other	40-49	6.48	V+F	önnur málsgrein sjötugasta grein á aðeins við um refsiverð afbrot
+001172-0013290	001172	other	40-49	3.55	V+F	einnig að þar byggju nornir og galdramenn
+001172-0013291	001172	other	40-49	5.83	V+F	en helsta heimild okkar um skipulag alþingis á þjóðveldisöld er lögbókin grágás
+001172-0013254	001172	other	40-49	4.36	V+F	aðrar smitleiðir eru þó þekktar
+001172-0013287	001172	other	40-49	4.65	V+F	fordómar gagnvart fólki varpa ljósi á tengsl okkar við aðra
+001172-0013197	001172	other	40-49	6.54	V+F	hryggskekkja getur verið tímabundið ástand og getur stafað af vöðvakrömpum
+001172-0013181	001172	other	40-49	5.26	V+F	nýr einstaklingur verður til þegar kynfrumur móður og föður
+001172-0013269	001172	other	40-49	3.89	V+F	kjarnasamruni getur ekki lengur átt sér stað
+001172-0013292	001172	other	40-49	4.83	V+F	rétt er að almenningur fái drjúgan hlut eignar sinnar milliliðalaust í hendur
+001172-0013177	001172	other	40-49	3.57	V+F	þetta má skýra á eftirfarandi hátt
+001172-0013267	001172	other	40-49	4.06	V+F	þá var sterk félagsleg vídd í trúarhugtakinu
+001172-0008208	001172	other	40-49	6.31	V+F	sé miðað við stærri svæði ræður landaskipan hitamuninum að meira leyti
+001172-0013215	001172	other	40-49	6.11	V+F	nokkrir erlendir fyrirlesarar komu beint eða óbeint á vegum félagsins til íslands
+001172-0013276	001172	other	40-49	3.55	V+F	hún var ýmist kölluð kaffirót eða rót
+001172-0013180	001172	other	40-49	4.19	V+F	ávarpsfall er nokkuð algengt í latínu
+001172-0013178	001172	other	40-49	5.17	V+F	guðmundur ívarsson guðmundsson var íslenskur alþingismaður og ráðherra
+001172-0013273	001172	other	40-49	3.65	V+F	hún fékk bestu einkunnina af þeim sem útskrifuðust
+001172-0013288	001172	other	40-49	4.51	V+F	kular af degi er skáldsaga eftir kristínu mörju baldursdóttur
+001172-0008209	001172	other	40-49	4.53	V+F	rúmlega helmingur nemenda skólans stundar fjarnám
+001172-0013213	001172	other	40-49	4.17	V+F	þegar beinfiskar komu fram á fornlífsöld
+001172-0008206	001172	other	40-49	4.14	V+F	en þótt þessi réttur sé talinn til mannréttinda
+001172-0013204	001172	other	40-49	4.60	V+F	hann varð síðan heimiliskennari hjá sveinbirni egilssyni
+001205-0008488	001205	other	20-29	4.56	V+F	þeir fóru í tónleikaferðalag undir því nafni og spiluðu víða um evrópu
+005077-0040341	005077	other	NAN	5.75	V+F	jú ætli það ekki svaraði hún eftir drykklanga stund
+005077-0040339	005077	other	NAN	9.84	V+F	þorbrandur í álftafirði hafði tekið hann með á þingið ásamt sínum börnum
+005077-0040343	005077	other	NAN	10.58	V+F	breskur iðnaður var þannig byggður upp undir öruggri handleiðslu ríkisins
+005077-0040340	005077	other	NAN	3.77	V+F	hún er nýdáin
+003823-0029481	003823	other	NAN	7.20	V+F	hún er því oft talin vera fyrsti forritarinn
+005204-0041758	005204	other	NAN	4.45	V+F	þetta er vinnan mín sem ég fæ borgað fyrir
+005203-0041752	005203	other	NAN	6.11	V+F	nei ég reyndist ekki vera sérlega góð galdranorn
+005203-0041755	005203	other	NAN	7.14	V+F	ég veðja eftir sem áður á umferðarslys
+005203-0041751	005203	other	NAN	7.09	V+F	en grímhildur var látin áður en morgun reis
+005203-0041754	005203	other	NAN	7.07	V+F	hins vegar tengist þetta lindu sennilega ekki neitt
+007645-0076111	007645	other	50-59	3.60	V+F	en hann hafði þó skorið sig úr
+007645-0076112	007645	other	50-59	3.66	V+F	þetta er ein sorgarsaga
+007646-0076119	007646	other	50-59	4.32	V+F	þeir sigla þar að landi og köstuðu akkerum
+007646-0076120	007646	other	50-59	5.28	V+F	ég veit auðvitað betur en að treysta nokkru sem fólk segir
+006613-0056147	006613	other	90	3.71	V+F	ekki að ég sé að gefa í skyn að þú gerir það
+006613-0056150	006613	other	90	3.80	V+F	morguninn eftir pökkuðum við saman í snatri
+007644-0076106	007644	other	50-59	7.08	V+F	situr við gluggann og skrifar eins og alltaf
+007644-0076110	007644	other	50-59	5.10	V+F	en þú vilt gjarnan auka þá möguleika
+007644-0076108	007644	other	50-59	6.66	V+F	þú barst alltaf bláhvíta fánann í þá daga
+004591-0035339	004591	male	NAN	5.04	V+F	en hvað ef þú ert í lífshættu sagði jón ólafur
+004591-0035341	004591	male	NAN	7.44	V+F	allar geimferjur verða fyrir geimrusli á hverjum degi geimferðarinnar
+002492-0018659	002492	male	NAN	9.78	V+F	margir hafa vanið sig á að líta á símann sinn hvar sem er
+010001-0227449	010001	male	2	2.13	V+F	ó nei
+007868-0080109	007868	male	1	5.16	V+F	í fyrra hafði hún skoðað allar myndirnar hans sem voru öllum sýnilegar
+007868-0080101	007868	male	1	6.06	V+F	eder sem á að heita trúnaðarvinur minn lætur lítið í sér heyra
+007868-0080104	007868	male	1	3.78	V+F	í mínu tilviki lét það á sér standa
+007868-0080106	007868	male	1	5.94	V+F	kerlingin var enn sýnileg í fjarska þegar manneskja kom hlaupandi úr hinni áttinni

corpus/files/tars_fem_18to49_yrs.paths

@@ -0,0 +1,2 @@
+corpus/speech/female/18to49_YRS/FEM_18to49_YRS_PART_0001.tar.gz
+corpus/speech/female/18to49_YRS/FEM_18to49_YRS_PART_0002.tar.gz

corpus/files/tars_fem_gt_49_yrs.paths

@@ -0,0 +1,2 @@
+corpus/speech/female/GT_49_YRS/FEM_GT_49_YRS_PART_0001.tar.gz
+corpus/speech/female/GT_49_YRS/FEM_GT_49_YRS_PART_0002.tar.gz

corpus/files/tars_fem_lt_18_yrs.paths

@@ -0,0 +1,2 @@
+corpus/speech/female/LT_18_YRS/FEM_LT_18_YRS_PART_0001.tar.gz
+corpus/speech/female/LT_18_YRS/FEM_LT_18_YRS_PART_0002.tar.gz

corpus/files/tars_male_18to49_yrs.paths

@@ -0,0 +1,2 @@
+corpus/speech/male/18to49_YRS/MALE_18to49_YRS_PART_0001.tar.gz
+corpus/speech/male/18to49_YRS/MALE_18to49_YRS_PART_0002.tar.gz

corpus/files/tars_male_gt_49_yrs.paths

@@ -0,0 +1,2 @@
+corpus/speech/male/GT_49_YRS/MALE_GT_49_YRS_PART_0001.tar.gz
+corpus/speech/male/GT_49_YRS/MALE_GT_49_YRS_PART_0002.tar.gz

corpus/files/tars_male_lt_18_yrs.paths

@@ -0,0 +1,2 @@
+corpus/speech/male/LT_18_YRS/MALE_LT_18_YRS_PART_0001.tar.gz
+corpus/speech/male/LT_18_YRS/MALE_LT_18_YRS_PART_0002.tar.gz

corpus/files/tars_other.paths

@@ -0,0 +1 @@
+corpus/speech/other.tar.gz

corpus/speech/female/18to49_YRS/FEM_18to49_YRS_PART_0001.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:338a30f6f472560e8f6e81764905f0dff53b0abbfcced702fcfa88c96d2884d5
+size 591923

corpus/speech/female/18to49_YRS/FEM_18to49_YRS_PART_0002.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5ba2a9f38a094c8057a85aee8a1dfef88756eed69affb7be26170a3e7f8a6e58
+size 343435

corpus/speech/female/GT_49_YRS/FEM_GT_49_YRS_PART_0001.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3b618b147bb9ecd0af70c7efe506d0e39f6caaf6f3857ca4bf020a6641b2b315
+size 705899

corpus/speech/female/GT_49_YRS/FEM_GT_49_YRS_PART_0002.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d0201308f3a53635804992b3ce4e3ac94d9e02c063fdf6ef2e64a60dc05d0783
+size 277098

corpus/speech/female/LT_18_YRS/FEM_LT_18_YRS_PART_0001.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:bcf516e31062ef3ff1b13f5e9ef7dd3e17221f6d60f12cc01363ee5beb8d9ce7
+size 146868

corpus/speech/female/LT_18_YRS/FEM_LT_18_YRS_PART_0002.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8f9380fc5676ac8db1a7a1061141d33f72bef2a92f5afb2119899a3a65ed82a2
+size 375152

corpus/speech/male/18to49_YRS/MALE_18to49_YRS_PART_0001.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c42501c8c77a1d24c00d513e68747ec5b222d4faafd1e561fb9dcd24938380dd
+size 257937

corpus/speech/male/18to49_YRS/MALE_18to49_YRS_PART_0002.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6ffe4bf7b46e28f3152198be271c235f7667dcde1b9d88d5b14a2a1433c4d22c
+size 443318

corpus/speech/male/GT_49_YRS/MALE_GT_49_YRS_PART_0001.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:29e7921b508e8381b73f10684d5ab69772b56f68b9a9660ea0ab22d53c797157
+size 722972

corpus/speech/male/GT_49_YRS/MALE_GT_49_YRS_PART_0002.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e97553319565f275b5550d0043e71e894c6a307f5ffc71d1af29eedda4212d32
+size 331392

corpus/speech/male/LT_18_YRS/MALE_LT_18_YRS_PART_0001.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:811a129198bbf90ec74d39c3bfa957c3ce7c5e26e1b0572092e5c9c511f7733e
+size 110136

corpus/speech/male/LT_18_YRS/MALE_LT_18_YRS_PART_0002.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2742e887d773d0faf2096d51dff81dd4a576b0b04b7f3fde70dd673dcdc7c66e
+size 480425

corpus/speech/other.tar.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c4eb42182aa94ce923e10a490938189453edab61d44e3e91c444f52a1388244f
+size 9456479

samromur_milljon.py

@@ -0,0 +1,224 @@
+from collections import defaultdict
+import os
+import json
+import csv
+
+import datasets
+
+_NAME="samromur_milljon"
+_VERSION="1.0.0"
+_AUDIO_EXTENSIONS=".flac"
+
+_DESCRIPTION = """
+Samrómur Milljón consists of approximately 1 million of speech recordings (967 hours) collected through the platform samromur.is; the transcripts accompanying these recordings were automatically verified using various ASR systems such as: Wav2Vec, Whisper and NeMo.
+"""
+
+_CITATION = """
+@misc{menasamromurmilljon2023,
+      title={Samrómur Milljón, Audio and Transcriptions}, 
+      author={Hernández Mena, Carlos Daniel and Guðnason, Jón},
+      publisher={Reykjavík University}
+      year={2023},
+      url={https://huggingface.co/datasets/language-and-voice-lab/samromur_milljon},
+}
+"""
+
+_HOMEPAGE = "https://huggingface.co/datasets/language-and-voice-lab/samromur_milljon"
+
+_LICENSE = "CC-BY-4.0, See https://creativecommons.org/licenses/by/4.0/"
+
+_BASE_DATA_DIR = "corpus/"
+
+_METADATA_FEM_LT_18_YRS   = os.path.join(_BASE_DATA_DIR,"files","metadata_fem_lt_18_yrs.tsv")
+_METADATA_FEM_18TO49_YRS  = os.path.join(_BASE_DATA_DIR,"files","metadata_fem_18to49_yrs.tsv")
+_METADATA_FEM_GT_49_YRS   = os.path.join(_BASE_DATA_DIR,"files","metadata_fem_gt_49_yrs.tsv")
+
+_METADATA_MALE_LT_18_YRS  = os.path.join(_BASE_DATA_DIR,"files","metadata_male_lt_18_yrs.tsv")
+_METADATA_MALE_18TO49_YRS = os.path.join(_BASE_DATA_DIR,"files","metadata_male_18to49_yrs.tsv")
+_METADATA_MALE_GT_49_YRS  = os.path.join(_BASE_DATA_DIR,"files","metadata_male_gt_49_yrs.tsv")
+
+_METADATA_OTHER = os.path.join(_BASE_DATA_DIR,"files","metadata_other.tsv")
+
+_TARS_FEM_LT_18_YRS   = os.path.join(_BASE_DATA_DIR,"files","tars_fem_lt_18_yrs.paths")
+_TARS_FEM_18TO49_YRS  = os.path.join(_BASE_DATA_DIR,"files","tars_fem_18to49_yrs.paths")
+_TARS_FEM_GT_49_YRS   = os.path.join(_BASE_DATA_DIR,"files","tars_fem_gt_49_yrs.paths")
+
+_TARS_MALE_LT_18_YRS  = os.path.join(_BASE_DATA_DIR,"files","tars_male_lt_18_yrs.paths")
+_TARS_MALE_18TO49_YRS = os.path.join(_BASE_DATA_DIR,"files","tars_male_18to49_yrs.paths")
+_TARS_MALE_GT_49_YRS  = os.path.join(_BASE_DATA_DIR,"files","tars_male_gt_49_yrs.paths")
+
+_TARS_OTHER = os.path.join(_BASE_DATA_DIR,"files","tars_other.paths")
+
+class SamromurMilljonConfig(datasets.BuilderConfig):
+    """BuilderConfig for The Samrómur Milljón"""
+
+    def __init__(self, name, **kwargs):
+        name=_NAME
+        super().__init__(name=name, **kwargs)
+
+class SamromurMilljon(datasets.GeneratorBasedBuilder):
+    """Samrómur Milljón"""
+
+    VERSION = datasets.Version(_VERSION)
+    BUILDER_CONFIGS = [
+        SamromurMilljonConfig(
+            name=_NAME,
+            version=datasets.Version(_VERSION),
+        )
+    ]
+
+    def _info(self):
+        features = datasets.Features(
+            {
+                "audio_id": datasets.Value("string"),
+                "audio": datasets.Audio(sampling_rate=16000),
+                "speaker_id": datasets.Value("string"),
+                "gender": datasets.Value("string"),
+                "age": datasets.Value("string"),
+                "duration": datasets.Value("float32"),
+                "verified_with": datasets.Value("string"),
+                "normalized_text": datasets.Value("string"),
+            }
+        )
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=features,
+            homepage=_HOMEPAGE,
+            license=_LICENSE,
+            citation=_CITATION,
+        )
+
+    def _split_generators(self, dl_manager):
+
+        metadata_fem_lt_18_yrs=dl_manager.download_and_extract(_METADATA_FEM_LT_18_YRS)
+        metadata_fem_18to49_yrs=dl_manager.download_and_extract(_METADATA_FEM_18TO49_YRS)
+        metadata_fem_gt_49_yrs=dl_manager.download_and_extract(_METADATA_FEM_GT_49_YRS)
+
+        metadata_male_lt_18_yrs=dl_manager.download_and_extract(_METADATA_MALE_LT_18_YRS)
+        metadata_male_18to49_yrs=dl_manager.download_and_extract(_METADATA_MALE_18TO49_YRS)
+        metadata_male_gt_49_yrs=dl_manager.download_and_extract(_METADATA_MALE_GT_49_YRS)
+
+        metadata_other=dl_manager.download_and_extract(_METADATA_OTHER)
+        
+        tars_fem_lt_18_yrs=dl_manager.download_and_extract(_TARS_FEM_LT_18_YRS)
+        tars_fem_18to49_yrs=dl_manager.download_and_extract(_TARS_FEM_18TO49_YRS)
+        tars_fem_gt_49_yrs=dl_manager.download_and_extract(_TARS_FEM_GT_49_YRS)
+
+        tars_male_lt_18_yrs=dl_manager.download_and_extract(_TARS_MALE_LT_18_YRS)
+        tars_male_18to49_yrs=dl_manager.download_and_extract(_TARS_MALE_18TO49_YRS)
+        tars_male_gt_49_yrs=dl_manager.download_and_extract(_TARS_MALE_GT_49_YRS)
+
+        tars_other=dl_manager.download_and_extract(_TARS_OTHER)
+       
+        hash_tar_files=defaultdict(dict)
+        with open(tars_fem_lt_18_yrs,'r') as f:
+            hash_tar_files['fem_lt_18_yrs']=[path.replace('\n','') for path in f]
+        with open(tars_fem_18to49_yrs,'r') as f:
+            hash_tar_files['fem_18to49_yrs']=[path.replace('\n','') for path in f]
+        with open(tars_fem_gt_49_yrs,'r') as f:
+            hash_tar_files['fem_gt_49_yrs']=[path.replace('\n','') for path in f]
+            
+        with open(tars_male_lt_18_yrs,'r') as f:
+            hash_tar_files['male_lt_18_yrs']=[path.replace('\n','') for path in f]
+        with open(tars_male_18to49_yrs,'r') as f:
+            hash_tar_files['male_18to49_yrs']=[path.replace('\n','') for path in f]
+        with open(tars_male_gt_49_yrs,'r') as f:
+            hash_tar_files['male_gt_49_yrs']=[path.replace('\n','') for path in f]
+            
+        with open(tars_other,'r') as f:
+            hash_tar_files['other']=[path.replace('\n','') for path in f]
+
+        hash_meta_paths={"fem_lt_18_yrs":metadata_fem_lt_18_yrs,
+        "fem_18to49_yrs":metadata_fem_18to49_yrs,
+        "fem_gt_49_yrs":metadata_fem_gt_49_yrs,
+        "male_lt_18_yrs":metadata_male_lt_18_yrs,
+        "male_18to49_yrs":metadata_male_18to49_yrs,
+        "male_gt_49_yrs":metadata_male_gt_49_yrs,
+        "other":metadata_other}
+
+        audio_paths = dl_manager.download(hash_tar_files)
+        
+        splits=["fem_lt_18_yrs","fem_18to49_yrs","fem_gt_49_yrs","male_lt_18_yrs","male_18to49_yrs","male_gt_49_yrs","other"]
+        local_extracted_audio_paths = (
+            dl_manager.extract(audio_paths) if not dl_manager.is_streaming else
+            {
+                split:[None] * len(audio_paths[split]) for split in splits
+            }
+        )
+                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                      
+        return [
+            datasets.SplitGenerator(
+                name="female_lt_18_yrs",
+                gen_kwargs={
+                    "audio_archives":[dl_manager.iter_archive(archive) for archive in audio_paths["fem_lt_18_yrs"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["fem_lt_18_yrs"],
+                    "metadata_paths": hash_meta_paths["fem_lt_18_yrs"],
+                }
+            ),
+            datasets.SplitGenerator(
+                name="female_18to49_yrs",
+                gen_kwargs={
+                    "audio_archives": [dl_manager.iter_archive(archive) for archive in audio_paths["fem_18to49_yrs"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["fem_18to49_yrs"],
+                    "metadata_paths": hash_meta_paths["fem_18to49_yrs"],
+                }
+            ),
+            datasets.SplitGenerator(
+                name="female_gt_49_yrs",
+                gen_kwargs={
+                    "audio_archives": [dl_manager.iter_archive(archive) for archive in audio_paths["fem_gt_49_yrs"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["fem_gt_49_yrs"],
+                    "metadata_paths": hash_meta_paths["fem_gt_49_yrs"],
+                }
+            ),
+            datasets.SplitGenerator(
+                name="male_lt_18_yrs",
+                gen_kwargs={
+                    "audio_archives":[dl_manager.iter_archive(archive) for archive in audio_paths["male_lt_18_yrs"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["male_lt_18_yrs"],
+                    "metadata_paths": hash_meta_paths["male_lt_18_yrs"],
+                }
+            ),
+            datasets.SplitGenerator(
+                name="male_18to49_yrs",
+                gen_kwargs={
+                    "audio_archives": [dl_manager.iter_archive(archive) for archive in audio_paths["male_18to49_yrs"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["male_18to49_yrs"],
+                    "metadata_paths": hash_meta_paths["male_18to49_yrs"],
+                }
+            ),
+            datasets.SplitGenerator(
+                name="male_gt_49_yrs",
+                gen_kwargs={
+                    "audio_archives": [dl_manager.iter_archive(archive) for archive in audio_paths["male_gt_49_yrs"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["male_gt_49_yrs"],
+                    "metadata_paths": hash_meta_paths["male_gt_49_yrs"],
+                }
+            ),
+            datasets.SplitGenerator(
+                name="other",
+                gen_kwargs={
+                    "audio_archives": [dl_manager.iter_archive(archive) for archive in audio_paths["other"]],
+                    "local_extracted_archives_paths": local_extracted_audio_paths["other"],
+                    "metadata_paths": hash_meta_paths["other"],
+                }
+            ),  
+        ]
+
+    def _generate_examples(self, audio_archives, local_extracted_archives_paths, metadata_paths):
+
+        features = ["speaker_id","gender","age","duration","verified_with","normalized_text"]
+        
+        with open(metadata_paths) as f:
+            metadata = {x["audio_id"]: x for x in csv.DictReader(f, delimiter="\t")}
+
+        for audio_archive, local_extracted_archive_path in zip(audio_archives, local_extracted_archives_paths):
+            for audio_filename, audio_file in audio_archive:
+                audio_id = audio_filename.split(os.sep)[-1].split(_AUDIO_EXTENSIONS)[0]
+                path = os.path.join(local_extracted_archive_path, audio_filename) if local_extracted_archive_path else audio_filename
+                                        
+                yield audio_id, {
+                    "audio_id": audio_id,
+                    **{feature: metadata[audio_id][feature] for feature in features},
+                    "audio": {"path": path, "bytes": audio_file.read()},
+                }