Saving weights and logs of step 5000 - epoch 0

README.md

@@ -63,6 +63,7 @@ The following hyperparameters were used during training:
 | step | validation_nst_loss | train_loss | validation_nst_wer | validation_nst_cer | validation_nst_exact_wer | validation_nst_exact_cer | validation_clean_stortinget_no_loss | validation_clean_stortinget_no_wer | validation_clean_stortinget_no_cer | validation_clean_stortinget_no_exact_wer | validation_clean_stortinget_no_exact_cer |
 |:----:|:-------------------:|:----------:|:------------------:|:------------------:|:------------------------:|:------------------------:|:-----------------------------------:|:----------------------------------:|:----------------------------------:|:----------------------------------------:|:----------------------------------------:|
 | 0    | 0.5115              | 1.2809     | 7.9808             | 2.5868             | 8.9172                   | 2.7299                   | 0.6754                              | 16.0516                            | 8.8512                             | 19.8245                                  | 9.5377                                   |
+| 5000 | 0.5513              | 0.7948     | 9.8699             | 3.1480             | 10.7083                  | 3.2666                   | 0.8315                              | 18.2473                            | 9.7512                             | 22.3081                                  | 10.4913                                  |
 
 
 ### Framework versions

flax_model.msgpack

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:fc20c0932d2ad96c8b45b150b724fd8c474c401447d1b2e56c50552db4d40695
+oid sha256:4e11c85ae38058080c3851f7d1d3c81dbcc37391fee752b560206f7e7bbb5457
 size 151048591

predictions/validation_clean_stortinget_no/step_0.md

@@ -1,4 +1,4 @@
-[Step 0](step_0.md)
+[Step 0](step_0.md) | [Step 5000](step_5000.md)
 
 | STEP| loss | wer |cer|
 | ---| --- | --- |--- |

predictions/validation_nst/step_0.md

@@ -1,4 +1,4 @@
-[Step 0](step_0.md)
+[Step 0](step_0.md) | [Step 5000](step_5000.md)
 
 | STEP| loss | wer |cer|
 | ---| --- | --- |--- |

predictions/validation_nst/step_5000.md

@@ -0,0 +1,108 @@
+[Step 0](step_0.md) | [Step 5000](step_5000.md)
+
+| STEP| loss | wer |cer|
+| ---| --- | --- |--- |
+| **5000**| 0.551 | 9.870 |3.148 |
+
+| target                                                                                                                                                                             | prediction                                                                                                                                                                      |
+|:-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+| Billettene fikk døtrene i **fødselsdagsgave** og julepresang\.                                                                                                                     | Billettene fikk døtrene i **ufødselsdagskave** og julepresang\.                                                                                                                 |
+| Det var godt å høre at ingen var skadet\.                                                                                                                                          | Det var godt å høre at ingen var skadet\.                                                                                                                                       |
+| Hvert slag på trommene er nøye planlagt og gjennomtenkt\.                                                                                                                          | Hvert slag på trommene er nøye planlagt og gjennomtenkt\.                                                                                                                       |
+| Fra **midten** **av** **november** har hun vært sykmeldt\.                                                                                                                         | Fra **mitt** **navember** har hun vært sykmeldt\.                                                                                                                               |
+| Problemet er imidlertid at jeg ikke ordentlig forstår hva hennes kommentar tilfører av ny informasjon\.                                                                            | Problemet er imidlertid at jeg ikke ordentlig forstår hva hennes kommentar tilfører av ny informasjon\.                                                                         |
+| Av historier som i aller høyeste grad er hans egne\.                                                                                                                               | Av historier som i aller høyeste grad er hans egne\.                                                                                                                            |
+| **Segregert** humor er ikke noe for meg\.                                                                                                                                          | **Sigragert** humor er ikke noe for meg\.                                                                                                                                       |
+| Informasjon er viktig for å fjerne rasisme\.                                                                                                                                       | Informasjon er viktig for å fjerne rasisme\.                                                                                                                                    |
+| Det er artig å være nominert\.                                                                                                                                                     | Det er artig å være nominert\.                                                                                                                                                  |
+| Slik kan **du** gjerne si at publikum selv har valgt sangene\.                                                                                                                     | Slik kan gjerne si at publikum selv har valgt sangene\.                                                                                                                         |
+| Maleriets integritet søkes i **dets** spesifikke **og** **essensielle** egenskaper\.                                                                                               | Maleriets integritet søkes i **det** spesifikke **av** **sensielle** egenskaper\.                                                                                               |
+| Vi vil til neste vinter **undersøke** forurensingen i området\.                                                                                                                    | Vi vil til neste vinter **understreke** forurensingen i området\.                                                                                                               |
+| Kritikken mot tjenesten har vært massiv og må tas til etterretning\.                                                                                                               | Kritikken mot tjenesten har vært massiv og må tas til etterretning\.                                                                                                            |
+| Det har blitt noe **lenger** **tid** i denne saken\.                                                                                                                               | Det har blitt noe **lenge** i denne saken\.                                                                                                                                     |
+| Det har vært et **satsingsområde** for landenes **kulturministre**\.                                                                                                               | Det har vært et **satsningsområde** for landenes **kulturminister**\.                                                                                                           |
+| Mytene om tusser og troll levde i beste velgående til langt inn i forrige århundre\.                                                                                               | Mytene om tusser og troll levde i beste velgående til langt inn i forrige århundre\.                                                                                            |
+| Det kan tas hensyn til forhold som farlig skolevei\, skolenes kapasitet og hvor **elevens** **søsken** **måtte** gå\.                                                              | Det kan tas hensyn til forhold som farlig skolevei\, skolenes kapasitet og hvor **elevenes** **skremmet** gå\.                                                                  |
+| Det forundrer oss at ikke **arkitekturhistorikeren** husker at slike prosesser er historisk legitimert gjennom en rekke eksempler\.                                                | Det forundrer oss at ikke **arkitekturhistorikerne** husker at slike prosesser er historisk legitimert gjennom en rekke eksempler\.                                             |
+| Den planlagte **sommerturnéen** er dermed kansellert\, selv om **alt** **ser** **ut** til å gå rett vei for sangeren\.                                                             | Den planlagte **sommertunnelen** er dermed kansellert\, selv om **alter** **ute** til å gå rett vei for sangeren\.                                                              |
+| **Varmeutviklingen** er så stor at det er helt umulig å ta seg inn til de døde\.                                                                                                   | **Varmetviklingen** er så stor at det er helt umulig å ta seg inn til de døde\.                                                                                                 |
+| Den planlagte **sommerturnéen** er dermed kansellert\, selv om alt ser ut til å gå rett vei for **sangeren**\.                                                                     | Den planlagte **sommertunneen** er dermed kansellert\, selv om alt ser ut til å gå rett vei for **sangvonden**\.                                                                |
+| Den nye sentralbanksjefen begynte å fungere i stillingen i november i fjor\.                                                                                                       | Den nye sentralbanksjefen begynte å fungere stillingen i november i fjor\.                                                                                                      |
+| Ved siden av skolegangen ble fotballen hans viktigste gjøremål\.                                                                                                                   | Ved siden av skolegangen ble fotballen hans viktigste gjøremål\.                                                                                                                |
+| **Tankevekkende** nok later det til at vold har vært gjenstand for folkeforlystelse til alle tider\.                                                                               | **Tankvekkende** nok later det til at vold har vært gjenstand for folkeforlystelse til alle tider\.                                                                             |
+| Konsertantallet har ikke avtatt nevneverdig med årene\.                                                                                                                            | Konsertantallet har ikke avtatt nevneverdig med årene\.                                                                                                                         |
+| Vanligvis består **opplæringen** av å reise mindre byggverk **inne** **i** en **verkstedhall**\.                                                                                   | Vanligvis består **opplegna** av å reise mindre byggverk **inni** en **verstehall**\.                                                                                           |
+| Det gigantiske arrangementet med **folkloreinnslag**\, kunst og fantastisk underholdning imponerte stort\.                                                                         | Det gigantiske arrangementet med **folkelårig** **innslag**\, kunst og fantastisk underholdning imponerte stort\.                                                               |
+| Det finnes imidlertid ikke **noen** **absolutte** grenser for hva som er virkelig **effektiv** og mindre **effektiv** behandling\.                                                 | Det finnes imidlertid ikke **noe** **absolutt** **i** grenser for hva som er virkelig **effektivt** og mindre **effektivt** behandling\.                                        |
+| Skolen ønsker å utdanne artister som **mestrer** både sang\, dans og drama\.                                                                                                       | Skolen ønsker å utdanne artister som **mester** både sang\, dans og drama\.                                                                                                     |
+| Som første kvinne består hun det interne lederkurset**\,** og **karriéren** skyter på ny fart\.                                                                                    | Som første kvinne består hun det interne lederkurset og **karrieren** skyter på ny fart\.                                                                                       |
+| I tillegg til disse to tok **fylkessykehuset** **i** **mot** en pasient med armskader til poliklinisk behandling\.                                                                 | I tillegg til disse to tok **fylkesvikehuset** **imot** en pasient med armskader til poliklinisk behandling\.                                                                   |
+| Han var høyt respektert og sto i en klasse for seg\.                                                                                                                               | Han var høyt respektert og sto i en klasse for seg\.                                                                                                                            |
+| Konserten er imidlertid velklingende for soloinstrumentet\.                                                                                                                        | Konserten er imidlertid velklingende for soloinstrumentet\.                                                                                                                     |
+| De som ikke vil\, de skal\.                                                                                                                                                        | De som ikke vil\, de skal\.                                                                                                                                                     |
+| Steker du kjøttet for lenge\, blir det seigt\.                                                                                                                                     | Steker du kjøttet for lenge\, blir det seigt\.                                                                                                                                  |
+| Hans direkte form og spissformuleringer ble verdsatt\.                                                                                                                             | Hans direkte form og spissformuleringer ble verdsatt\.                                                                                                                          |
+| I kveld spiller de i byen\.                                                                                                                                                        | I kveld spiller de i byen\.                                                                                                                                                     |
+| **Syv** filippinere\, den **burmesiske** kapteinen og nederlenderen er reddet\.                                                                                                    | **Sju** filippinere\, den **bermesiske** kapteinen og nederlenderen er reddet\.                                                                                                 |
+| **Undertegnedes** mening er at ved bruk av midlertidig **kjøreadkomst\,** kan bygging av skolen starte umiddelbart og permanent **kjøreadkomst** utredes parallelt med byggingen\. | **Undertegnede** mening er at ved bruk og midlertidig **hørerankomst** kan bygging av skolen starte umiddelbart og permanent **hørerankomst** utredes parallelt med byggingen\. |
+| Ekspertene antyder at prisen vil gå ned allerede i løpet av året\.                                                                                                                 | Ekspertene antyder at prisen vil gå ned allerede i løpet av året\.                                                                                                              |
+| Det kan det faktisk bli bråk av\.                                                                                                                                                  | Det kan det faktisk bli bråk av\.                                                                                                                                               |
+| Jeg kan løpe av **meg** ergrelser og frustrasjoner\.                                                                                                                               | Jeg kan løpe av **med** ergrelser og frustrasjoner\.                                                                                                                            |
+| Hun understreker at reglene ikke innebærer at norske ferger i norske havner kan friste reisende med kasino i fremtiden\.                                                           | Hun understreker at reglene ikke innebærer at norske ferger i norske havner kan friste reisende med kasino i fremtiden\.                                                        |
+| **Bråta** sier at det ikke skal være fare for **nye** ras\, men at man ikke har noen garanti for dette\.                                                                           | **Bråtad** sier det ikke skal være fare for **mye** ras\, men at man ikke har noen garanti for dette\.                                                                          |
+| I stedet for å importere arbeidskraft fra utlandet**\,** kan de bruke oss som er her\.                                                                                             | I stedet for å importere arbeidskraft fra utlandet kan de bruke oss som er her\.                                                                                                |
+| Hvis avtalen om distribusjon og salg av bøker i **kongeriket** faller\, kan vi vente oss et helt annet bokmarked\.                                                                 | Hvis avtalen om distribusjon og salg av bøker i **kongerike** faller\, kan vi vente oss et helt annet bokmarked\.                                                               |
+| Et slikt system vil alle bydelene tape på **over** **tid**\.                                                                                                                       | Et slikt system vil alle bydelene tape på **overtid**\.                                                                                                                         |
+| Jeg tror norske interesser vil komme inn\.                                                                                                                                         | Jeg tror norske interesser vil komme inn\.                                                                                                                                      |
+| Du mener at svært mange tar feil\.                                                                                                                                                 | Du mener at svært mange tar feil\.                                                                                                                                              |
+| Den eneste muligheten for at det norske **domenenavnet** skal bli tatt\, er at to bedrifter heter det samme\.                                                                      | Den eneste muligheten for at det norske **domenavnet** skal bli tatt\, er at to bedrifter heter det samme\.                                                                     |
+| Fiskeindustrien har henvendt seg til fiskeriministeren for å gi uttrykk for sin frykt for å miste råstoff\.                                                                        | Fiskeindustrien har henvendt seg til fiskeriministeren for å gi uttrykk for sin frykt for å miste råstoff\.                                                                     |
+| Det er dessuten en perle av en **musical**\.                                                                                                                                       | Det er dessuten en perle av en **musikal**\.                                                                                                                                    |
+| Han er spent**\,** og **regner** med at programformen trenger litt tid for å sitte\.                                                                                               | Han er spent og **røyner** med at programformen trenger litt tid for å sitte\.                                                                                                  |
+| Man kan ikke **hypnotiseres** til handlinger som strider mot **vedkommendes** personlighet\.                                                                                       | Man kan ikke **hypnotisere** til handlinger som strider mot **vedkommende** personlighet\.                                                                                      |
+| Jeg tror bestemt at konsernet har videre motiver\.                                                                                                                                 | Jeg tror bestemt at konsernet har videre motiver\.                                                                                                                              |
+| Problemene med å organisere seg kommer klart frem i antallet **meglinger** for å få tariffavtaler\.                                                                                | Problemene med å organisere seg kommer klart frem i antallet **menglinger** for å få tariffavtaler\.                                                                            |
+| Hos mange går fagene derfor ikke fri for kritikken av den moderne samfunnsutvikling\.                                                                                              | Hos mange går fagene derfor ikke fri for kritikken av den moderne samfunnsutvikling\.                                                                                           |
+| Han minner om at ordet på gresk **opprinnelig** betød **den** kunnskap som kommer gjennom sansene\.                                                                                | Han minner om at ordet på gresk **og** **brennelig** betød **en** kunnskap som kommer gjennom sansene\.                                                                         |
+| I stedet for å importere arbeidskraft fra utlandet**\,** kan de bruke oss som er her\.                                                                                             | I stedet for å importere arbeidskraft fra utlandet kan de bruke oss som er her\.                                                                                                |
+| I **norrøn** **tid** var **genitiv** i flittig bruk\, og også **akkusativ** og dativ\.                                                                                             | I **norrøntid** var **genetiv** i flittig bruk\, og også **akkurativ** og dativ\.                                                                                               |
+| Kritikken mot tjenesten har vært massiv og må tas til **etterretning**\.                                                                                                           | Kritikken mot tjenesten har vært massiv og må tas til **en** **beretning**\.                                                                                                    |
+| Rusmiddelsekretariatet har hatt problemer med å finne et nytt sted til beboerne\.                                                                                                  | Rusmiddelsekretariatet har hatt problemer med å finne et nytt sted til beboerne\.                                                                                               |
+| Det er viktig for at alle **fremtidige** generasjoner skal kunne oppleve de synlige tegn på vår eldste historie\.                                                                  | Det er viktig for at alle **framtidige** generasjoner skal kunne oppleve de synlige tegn på vår eldste historie\.                                                               |
+| Han var en beskjeden mann som ønsket minst mulig oppmerksomhet om seg selv\.                                                                                                       | Han var en beskjeden mann som ønsket minst mulig oppmerksomhet om seg selv\.                                                                                                    |
+| Det er dessuten en perle av en **musical**\.                                                                                                                                       | Det er dessuten en perle av **musikkøll**\.                                                                                                                                     |
+| Problemet er imidlertid at jeg ikke ordentlig forstår hva hennes kommentar tilfører **av** **ny** **informasjon**\.                                                                | Problemet er imidlertid at jeg ikke ordentlig forstår hva hennes kommentar tilfører **anonymformasjonen**\.                                                                     |
+| Olsen er den **reelle** forvalter av milliardverdiene\.                                                                                                                            | Olsen er den **rene** forvalter av milliardverdiene\.                                                                                                                           |
+| Stemningen inne på intensivavdelingen er underlig\.                                                                                                                                | Stemningen inne på intensivavdelingen er underlig\.                                                                                                                             |
+| Folk liker **og** **er** glad i disse bygningene\.                                                                                                                                 | Folk liker **å** **være** glad i disse bygningene\.                                                                                                                             |
+| Du har ditt på det tørre\.                                                                                                                                                         | Du har ditt på det tørre\.                                                                                                                                                      |
+| Man **reviderer** dagens lokalisering av bomsystemet**\,** og etablerer en indre **bomring**\.                                                                                     | Man **rekvirerer** dagens lokalisering av bomsystemet og etablerer en indre **bomling**\.                                                                                       |
+| Flyplassen ble stengt for vanlig trafikk\.                                                                                                                                         | Flyplassen ble stengt for vanlig trafikk\.                                                                                                                                      |
+| Når man diskuterer en ting\, så skal man gjøre det saklig\.                                                                                                                        | Når man diskuterer en ting\, så skal man gjøre det saklig\.                                                                                                                     |
+| Spørsmålet om kugalskap kan smitte over **på** mennesker og føre til en dødelig hjernesykdom**\,** er blitt underordnet\.                                                          | Spørsmålet om kugalskap kan smitte over **hvor** mennesker og føre til en dødelig hjernesykdom er blitt underordnet\.                                                           |
+| Kort tid etter sto farkosten i full fyr\.                                                                                                                                          | Kort tid etter sto farkosten i full fyr\.                                                                                                                                       |
+| Han ser for seg **delprosjekter** av høy kvalitet\, der innspill med **klare** forskningsmål og tverrfaglig karakter blir prioritert\.                                             | Han ser for seg **del** **på** **sjekter** av høy kvalitet\, der innspill med **klar** forskningsmål og tverrfaglig karakter blir prioritert\.                                  |
+| Fem utlendinger møter **storparten** av den norske **juniorelite** de kommende fem dager\.                                                                                         | Fem utlendinger møter **storbrødene** av den norske **juniorelitet** de kommende fem dager\.                                                                                    |
+| Hun tar seg en **måned** **fri** hvert år\.                                                                                                                                        | Hun tar seg en **månefri** hvert år\.                                                                                                                                           |
+| De spiller en avansert form for rock som krever sitt av musikerne\, men her er det publikum som gir klart mest\.                                                                   | De spiller en avansert form for rock som krever sitt av musikerne\, men her er det publikum som gir klart mest\.                                                                |
+| Disse kommer i stand gjennom forhandlinger\.                                                                                                                                       | Disse kommer i stand gjennom forhandlinger\.                                                                                                                                    |
+| Det skal også utvikles regionale utviklingsprogrammer der formålet er å få de forskjellige kommuner og bedrifter i regionene til å samarbeide bedre\.                              | Det skal også utvikles regionale utviklingsprogrammer der formålet er å få de forskjellige kommuner og bedrifter i regionene til å samarbeide bedre\.                           |
+| Kommuner som ønsker å gi tillatelse til bygging av slike sentre\, må søke om dispensasjon\.                                                                                        | Kommuner som ønsker å gi tillatelse til bygging av slike sentre\, må søke om dispensasjon\.                                                                                     |
+| Dette viser at tilsynsorganenes innsats for røykfritt **miljø** **nytter\,** understreker **hun**\.                                                                                | Dette viser **til** at tilsynsorganenes innsats for røykfritt **miljønytter** understreker **hund**\.                                                                           |
+| Han sier også at det er første **gang** det er inngått en slik avtale i vår del av verden\.                                                                                        | Han sier også at det er første **ganger** inngått en slik avtale i vår del av verden\.                                                                                          |
+| Hun har gitt seg i kast med et krevende trekantdrama\, en fortelling om kjærlighetstyven som prøver å stjele en annen manns liv\.                                                  | Hun har gitt seg i kast med et krevende trekantdrama\, en fortelling om kjærlighetstyven som prøver å stjele en annen manns liv\.                                               |
+| Her kan vi sitte i fred og prate og nyte maten\.                                                                                                                                   | Her kan vi sitte i fred og prate og nyte maten\.                                                                                                                                |
+| Det var to personer i kassebilen\, den ene av dem fikk lettere skader\.                                                                                                            | Det var to personer i kassebilen\, den ene av dem fikk lettere skader\.                                                                                                         |
+| I beste forstand var han entertainer og behersket **situasjonen** og publikum **med** en **scenekunstners** **finesser**\.                                                         | I beste forstand var han entertainer og behersket **situasjon** og publikum en **scenekunstnerfinesser**\.                                                                      |
+| De bare mottar og mottar uten å løfte en finger\.                                                                                                                                  | De bare mottar og mottar uten å løfte en finger\.                                                                                                                               |
+| Det går ikke\, sier han\.                                                                                                                                                          | Det går ikke\, sier han\.                                                                                                                                                       |
+| **De** har et annet språk**\,** **en** annen verden som de forholder seg til\.                                                                                                     | **Det** har et annet språk **enn** annen verden som de forholder seg til\.                                                                                                      |
+| Det skal også **utvikles** regionale utviklingsprogrammer der formålet er å få de forskjellige kommuner og bedrifter i regionene til å samarbeide bedre\.                          | Det skal også **utvikle** regionale utviklingsprogrammer**\,** der formålet er å få de forskjellige kommuner og bedrifter i regionene til å samarbeide bedre\.                  |
+| Det er sterk vekst i røykerelaterte sykdommer\.                                                                                                                                    | Det er sterk vekst i røykerelaterte sykdommer\.                                                                                                                                 |
+| I stedet for å importere arbeidskraft fra utlandet**\,** kan de bruke **oss** **som** **er** her\.                                                                                 | I stedet for å importere arbeidskraft fra utlandet kan de bruke **også** **mer** her\.                                                                                          |
+| Begge tror **det** kan ta lang tid før de er tilbake på jobb\.                                                                                                                     | Begge tror **at** de kan ta lang tid før de er tilbake på jobb\.                                                                                                                |
+| Det skal være en av grunnene til at andre land ikke har gått med på den franske **planen**\.                                                                                       | Det skal være en av grunnene til at andre land ikke har gått med på den franske **plan**\.                                                                                      |
+| Hun er oppvokst med **krypdyr** i alle varianter\.                                                                                                                                 | Hun er oppvokst med **kryptyre** i alle varianter\.                                                                                                                             |
+| Mange reagerer på at **det** **røykes** **der** **de** skal raste\.                                                                                                                | Mange reagerer på at **røyken** **størdisk** skal raste\.                                                                                                                       |
+| Det vil trolig øke muligheten og faren for konflikter mellom ulike befolkningsgrupper i fremtiden\.                                                                                | Det vil trolig øke muligheten og faren for konflikter mellom ulike befolkningsgrupper i fremtiden\.                                                                             |
+| Kort tid etter **sto** farkosten i full fyr\.                                                                                                                                      | Kort tid etter **står** farkosten i full fyr\.                                                                                                                                  |

runs/Jan07_21-32-39_t1v-n-2b6412d5-w-3/events.out.tfevents.1704663159.t1v-n-2b6412d5-w-3.21262.0.v2

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:b5c0a0d036fa8e6fe0d5c650d7d092e0fa366bae3e300a9ebf8ce9daf7d82f92
-size 159301
+oid sha256:e0431ba7ee23a96051c42f61acb08632147951529f460d1d38530924a58ea7ec
+size 1787474

training_state.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:0d4c4dd2baac498efb141b8e8b05f0271d679c16c7349b0db547dd0fb7ed8193
-size 594
+oid sha256:d645c97bd4da60f24df3ee0ca8ae24fd78c70d6cbf1781c3ecde264d6bf07dae
+size 1170