Datasets:

NLPnorth
/

snakmodel-pretraining-data-v0.1

text stringlengths 6 8.65k	source stringclasses 2 values
Den Europæiske Union omfatter nu borgere i 25 europæiske lande . Beslutningertruffet i EU , f.eks. indførelsen af euroen eller regler for miljøbeskyttelse , kan havedirekte konsekvenser for vores dagligdag .	bookshop
Sådanne beslutninger træffes ikke bloti Bruxelles , som er EU ’ s hovedsæde , men mange opfatter disse beslutninger somtruffet » af « Bruxelles .	bookshop
Nogle tror , at skjulte kræfter , afskåret fra resten af Europa , søger at påtvinge EU ’ s 455 millioner borgere deres vilje .	bookshop
Beslutninger er resultatet af åbne og demokratiske processer , der involverer de tre vigtigste EU-institutioner : Europa-Parlamentet , Rådet for Den Europæiske Union ( bestående af ministre fra medlemsstaterne ) og Europa-Kommissionen .	bookshop
Med en sådan fælles beslutningstagning og med 25 landes interesser , der skal forenes , kan de forskellige mekanismer ikke undgå at værekomplicerede , men de er fuldt ud gennemskuelige .	bookshop
Denne brochure fokuserer på Europa-Kommissionen , den største af de tre institutioner .	bookshop
Den indeholder en kort og enkel beskrivelse af Kommissionens opgaver ogfunktionsmåde .	bookshop
Desuden omtales nogle af de mennesker — almindelige europæere som alle os andre — der arbejder for Kommissionen , og hvis job det er atsørge for , at EU fungerer til gavn for os alle .	bookshop
På arbejde for Europas borgere se g	bookshop
EU eksisterer , fordi EU ’ s medlemsstater er blevet enige om at forene deresinteresser og endda lidt af deres suverænitet inden for nogle bestemte , vigtige politikområder .	bookshop
Det er sket for atskabe mere fred , velfærd og sikkerhedog er aftalt i EU ’ s grundlæggendetraktater .	bookshop
Den anden funktion er at stå for dendaglige forvaltning af de mange forskellige EU-aktiviteter , det være siglandbrug , fødevaresikkerhed ellerbeskyttelse af forbrugerne over for skrupelløse virksomheder .	bookshop
Kommissionen kan f.eks. idømme de værstelovovertrædere , som manipulerer markeder for at fastholde høje priser — ogfortjenester , bøder på hundreder afmillioner euro .	bookshop
Europa-Kommissionen spiller en vigtigrolle , når EU skal virkeliggøre sine politiske mål .	bookshop
Dens beføjelser og ansvar erøget gennem årene , efterhånden som EU er blevet udvidet og har bevægetsig ind på nye aktivitetsområder.Kommissionen har tre forskellige oglige vigtige funktioner .	bookshop
I en Europæisk Union med et indre markedog fri bevægelighed er det vigtigt , atalle borgere er stillet lige over for EU-loven , uanset hvor de bor .	bookshop
På grund afdenne funktion kaldes Kommissionensomme tider for » traktaternes vogter « .	bookshop
Den første er at udarbejde udkast tilny lovgivning .	bookshop
Kommissionen udarbejder forslag , som bliver forelagt for Rådet og Europa-Parlamentet medhenblik på debat og beslutningstagning .	bookshop
Det er disse to institutioner , somi sidste ende formelt vedtager — ellerforkaster — Kommissionens forslag .	bookshop
FØDT : 1967 i Celle , Tyskland STILLING : Forhandler med EU-kandidatlande om landbrug og fødevaresikkerhed løsning snarere end konfrontation . » Når man på møderne i Rådet for Den Europæiske Union , med deltagelse af25 medlemsstater og Kommissionen , forsøger at indgå et kompromis , der tilfredsstiller alle , så mærker man virkelig , at Europa udvikler sig dag for dag.Jeg holder meget af at arbejde medemner , der har en betydning for såmange mennesker . «	bookshop
Forestillingen om , at Kommissionenstjenestemænd sidder og skriver regleruden at bekymre sig om deres virkning , er milevidt fra den måde , der reelttræffes beslutninger på i EU . Der ertale om en demokratisk proces , derinvolverer Kommissionen , 25 nationaleregeringer , Europa-Parlamentet ogmange andre parter .	bookshop
Matthiashar arbejdet uafbrudt for EU i forskellige funktioner lige siden .	bookshop
» Under optagelsesforhandlingerne harvores afdeling i Kommissionen det primære ansvar for at lytte til kandidatlandenes bekymringer .	bookshop
Vi gør voresbedste for at imødekomme deresønsker , men vi tager også andre afdelingers synspunkter i betragtning — imit tilfælde drejer det sig om kollegermed ansvar for landbrug samt sundhed og forbrugerbeskyttelse .	bookshop
Vi måogså være fair over for Europas landmænd og forbrugere . «	bookshop
EU ’ s forhandlingsposition udarbejdesaf Kommissionen , men skal godkendesaf medlemsstaterne , inden den kanforelægges for kandidatlandene . At fågodkendt Kommissionens forslag er enproces , Matthias ser som problem-	bookshop
Han tilbragte først to år i Bruxellesmed at analysere landbrugslovgivningsom led i en erhvervspraktikordning , der drives af europæiske universiteter.Derefter fulgte en udstationering som » juniorekspert « ved EU ’ s delegation på Barbados , en kontrakt som hjælpeansat i Bruxelles , hvor han forvaltedebistandsprojekter i Mellemøsten , ogen tid som midlertidig EU-ansat i Beograd , hvor han hjalp Serbiens landmænd med at komme på fode efter deregionale konflikter , inden han blevfuldgyldig EU-tjenestemand i 2003 ..	bookshop
Set ud fra antallet af ansatte er Kommissionen på størrelse med kommunaladministrationen i en mellemstor europæisk by .	bookshop
I den henseende fården europæiske skatteborger altsånoget for pengene .	bookshop
Lad os begynde med en definition.Når man taler om » EuropaKommissionen « , betyder det normaltde 25 kvinder og mænd , der lederorganisationen , de såkaldte kommissærer .	bookshop
De udnævnes for en femårigperiode af regeringerne i de 25 EU-lande — én kommissær pr. land — ogde skal høres og godkendes af Europa-Parlamentet , inden de tiltræder.Herved får de deres demokratiske legitimitet .	bookshop
De aflægger derefter ed overfor EF-Domstolen om uafhængighed .	bookshop
Den nuværende Kommission underledelse af portugiseren José Manuel Barroso begyndte sin femårsperiode inovember 2004 .	bookshop
De fleste af Kommissionens ansattearbejder i Bruxelles , men over 2500 ansatte virker i Luxembourg.Kommissionen har repræsentationskontorer i alle 25 EU-lande , og derudover har den over 100 delegationer iandre lande over hele verden .	bookshop
Debeskæftiger sig med bl.a. handel , udvikling og humanitær bistand .	bookshop
Men » Kommissionen « betegner ogsåhele organisationen og de 25000mennesker , som arbejder i Kommissionens operationelle afdelinger , kaldetgeneraldirektorater ( GD ’ er ) . Hvert GD	bookshop
Eksterne Forbindelser Handel Humanitær Bistand ( ECHO ) Samarbejdskontoret EuropeAid Udvidelse Udvikling	bookshop
Informationssamfundet og Medier Konkurrence Landbrug og Udvikling af Landdistrikter Miljø Regionalpolitik Retfærdighed , Frihed og Sikkerhed Sundhed og Forbrugerbeskyttelse Uddannelse og Kultur Økonomiske og Finansielle Anliggender	bookshop
Beskatning og Toldunion Beskæftigelse , Sociale Anliggender , Arbejdsmarkedsforhold og Ligestilling Det Fælles Forskningscenter Det Indre Marked og Tjenesteydelser Energi og Transport Erhvervspolitik Fiskeri og Maritime Anliggender Forskning	bookshop
Budget Det Europæiske Kontor for Bekæmpelse af Svig	bookshop
EU er verdens største handelspartnerog yder af bistand og har et særligtpartnerskab med 78 lande i Afrika , Vestindien og Stillehavet ( AVS-lande-ne ) .	bookshop
Jeremy Lester har specialiseret sigi samarbejdet med disse lande .	bookshop
Han tilbragte først treår i Lesotho , inden han startede i Kommissionen i 1976 .	bookshop
Jeg er stolt af , at Kommissionen i Niger har ydet støttetil forandringsledelse og udvikling oghar været villig til at støtte risikobetonede projekter .	bookshop
Hvis man ikke tager enrisiko , er man dømt til fiasko .	bookshop
Enbrønd , som er gravet af og sammenmed lokalsamfundet , vil blive vedligeholdt .	bookshop
En brønd gravet af fremmede vilvære ubrugelig , kort tid efter de errejst . «	bookshop
I fritiden slapper Jeremy af i sin have . » Det afmålte tempo , en have vokser i , hjælper mig til at opretholde en visbalance .	bookshop
Jeg er ikke nogen særlig godgartner , men det har været en fornøjelse for mig at sysle i mine forskellige haver — i Lesotho , på Madagaskar , i Rwanda og nu under de barske forhold i Niger , hvor en have er enoase midt blandt geder , støv og sand . «	bookshop
Siden da har han været involveret ipolitikudforming i Bruxelles ogbistand ude i marken ved EU-delegati-onerne på Madagaskar , i Rwanda ognu i Niger .	bookshop
Delegationer varetager endobbeltfunktion : De betjener befolkningen i værtslandet , men fungererogså som den lokale lyttepost og enforpost for Kommissionens afdelinger i Bruxelles , der beskæftiger sig medudviklingsbistand , handel , eksterneforbindelser , humanitær bistand ogmeget andet .	bookshop
Der findes ikke nogen bestemt karriere , som fører til et job i Europa-Kommissionen .	bookshop
Tidligere aldersgrænser for nyansatte er afskaffet , hvilkethar givet mulighed for at rekruttereældre ansøgere med relevant erhvervserfaring .	bookshop
Ud over fuldtidsansatte tjenestemænd beskæftiger Kommissionen eksperter med specialviden påkortvarige kontrakter og embedsmænd , der udstationeres fra medlemsstaternes ministerier .	bookshop
De sidstnævnte grupper udgør dog et lillemindretal .	bookshop
De kommer også fra mange forskellige baggrunde .	bookshop
Ligesom embedsmænd andresteder dækker de mange forskelligearbejdsområder og bruger deres evnerpå forskellige niveauer , f.eks. somsagsbehandlere , der udarbejder politikker , som ledere eller som personalei støttefunktioner .	bookshop
Deres forskellighedafspejler selve mangfoldigheden i Den Europæiske Union og gør Kommissionen til en smeltedigel af europæiskesprog og kulturer .	bookshop
Hvisman går ned ad en korridor i en hvilken som helst af Kommissionens bygninger i Bruxelles , vil man støde påfolk , som repræsenterer et bredtudsnit af nationaliteter , kulturer , etnisk og social baggrund , og somtaler mange forskellige sprog .	bookshop
Skønt Kommissionen tilstræber atskabe og opretholde en overordnetbalance mellem de forskellige nationaliteter , er der ingen kvoteordninger.Tilpasningsevne og smag for at arbejde i et multikulturelt og flersprogetmiljø er essentielle egenskaber .	bookshop
Ogman skal være interesseret i at bo iudlandet i en længere periode .	bookshop
Kommissionen er dog ikke nogetbabelstårn .	bookshop
Der anvendes for detmeste kun tre interne arbejdssprog — engelsk , fransk og tysk — selv om formelle dokumenter udarbejdes på alle20 officielle EU-sprog .	bookshop
Alle ansatteforventes ud over deres eget sprog attale mindst ét andet EU-sprog .	bookshop
Anne Ropers en teoretisk valuta , som primært blevbrugt til at fastsætte EU-budgetter og-betalinger , » men den var også ret vigtig for store virksomheder .	bookshop
Det var den multikulturelle og internationale dimension ved EU-institutio-nerne , som tiltrak Anne Ropers.Hendes job i Bruxelles har at gøre meddet mest håndgribelige symbol påeuropæisk integration , nemlig euroen .	bookshop
FØDT : 1945 i Paris , Frankrig STILLING : Sekretær for møntdirektørernes arbejdsgruppe vedrørendeeuromønter	bookshop
Da de deltagende landesvalutaer også forsvandt , og Den Europæiske Centralbank i Frankfurtovertog ansvaret for euroens valutakurs , gik Anne over til at beskæftigesig med specifikationer for euromønter . » Hovedopgaven er nu at forsynede nye medlemsstater med relevanteoplysninger .	bookshop
En række nye lande vilindføre euroen inden for nogle få år . «	bookshop
At købe en busbillet i Athen med enfinsk euromønt tager vi nu som enselvfølge .	bookshop
Men at harmonisere størrelse , vægt og andre tekniske kendetegnfor de 74 milliarder euromønter i de12 lande , som anvender den fællesvaluta , er en kompliceret opgave .	bookshop
Deter ikke Kommissionens ansvar at lavemønter , da prægning af mønter er enmeget gammel suveræn ret for medlemsstaterne .	bookshop
Men Kommissionenyder dog bistand til den nødvendigesamordning mellem landene , og deter Annes nuværende job .	bookshop
Anne har stort set altid arbejdet indenfor dette område .	bookshop
Efter 32 år i Bruxelles er det internationale miljø stadig den del af arbejdet , hun sætter størst pris på . » Du lærernoget om en masse lande endda udenat forlade dit kontor .	bookshop
Og efter såmange år i Bruxelles , er det nu her , jegføler mig mest hjemme , selv om jegstadig har en stærk tilknytning til Frankrig . «	bookshop
Eurosedler med pålydende fra 5 til 500 er ens i de 12 lande , som anvender den fælles valuta .	bookshop
Mønternehar derimod en fælles side , der angiver møntens værdi , mens den anden side er forsynet med et nationalt symbol .	bookshop
Ministater som Vatikanstaten præger også egne euromønter , men i så lille et antal , atde allerede er blevet samlerobjekter .	bookshop
Ansættelse stillinger uden krav om en universitetsgrad .	bookshop
Hvis du består en udvælgelsesprøve for universitetsuddannede , bliver du tjenestemand eller administrator i stillingskategori » A « .	bookshop
Den normale vej til en stilling i Kommissionen går via en » almindeligudvælgelsesprøve « .	bookshop
De afholdesmed jævne mellemrum alt efter behovet for nyt personale .	bookshop
Jobbets art — atarbejde i et internationalt team tilgavn for Europa og dets borgere — tiltrækker mange ansøgere .	bookshop
Meddelelser om kommende udvælgelsesprøver offentliggøres i den nationale presse i EU-landene og på internettet .	bookshop
I 2003 blev Det Europæiske Personaleudvælgelseskontor ( EPSO ) oprettet .	bookshop
Det varetager og koordinereransættelse i Kommissionen og de øvrige EU-institutioner .	bookshop
EPSO-webstedetpå adressen europa.eu.int / epsoindeholder oplysninger om igangværende og kommende udvælgelsesprøver samt vejledning til ansøgere .	bookshop
Der er hård konkurrence , så forbereddig godt til udvælgelsesprøverne.Beståede ansøgere , der tilbydesansættelse , vil blive en del af et stimulerende og udfordrende arbejdsmiljø .	bookshop
Der er mulighed for at beskæftigesig med mange forskellige politikområder i løbet af en karriere i Kommissionen . Initiativ belønnes .	bookshop
Ibetragtning af Kommissionens mangeforskellige aktiviteter og dens forholdsvis beskedne størrelse kan du pårelativt kort tid opnå et stort ansvar .	bookshop
Udvælgelsesprøverne afholdes på alle EU-sprog og består af en multiplechoice-stopprøve efterfulgt af enskriftlig opgave .	bookshop
De , der består disseprøver , bliver derefter indkaldt til enmundtlig prøve , der normalt findersted i Bruxelles .	bookshop
Selv om de tjener mindre end i lignende internationale job i den privatesektor , får de generelt en højere lønend kolleger på tilsvarende niveau imedlemsstaternes centraladministrationer .	bookshop
Stillingerne i Kommissionen kan inddeles i to overordnede kategorier : stillinger for universitetsuddannede og	bookshop
Katarina Mathernova involveret i tiltrædelsesforhandlingerne .	bookshop
Dette gav mig smag for EU , og jegtror på den europæiske integrationsproces . « Herefter vendte hun tilbagetil Verdensbanken , og to år senereblev hun ansat i Kommissionen .	bookshop
Dette er Katarina Mathernovaskarrieremæssige løbebane .	bookshop
Hun blev istarten af 2005 direktør i Kommissionens afdeling for regionalpolitik .	bookshop

End of preview. Expand in Dataset Viewer.

Details

SnakModel is a 7B-parameter, autoregressive language model specifically designed for Danish. There are both an instruction-tuned variant, as well as a base version for further fine-tuning. Our models build upon Llama 2, which we continuously pre-train on a diverse collection of Danish corpora.

Developers

🧭 NLPnorth research unit at the IT University of Copenhagen, Denmark.
🌊 AAU-NLP research unit at Aalborg University Copenhagen, Denmark.

Mike Zhang*, Max Müller-Eberstein*, Elisa Bassignana, Rob van der Goot.
*equal contribution.

Deduplication

Important Note: In this data, we removed two sources, namely DaNewsroom and FTSpeech. The reason is because the licenses are not clear.

The hyperparameters of this particular pretraining set:

  --seed 42 \
  --batch_size 1024 \
  --num_perm 64 \
  --threshold 0.85 \
  --hash_bits 32 \
  --num_proc 16 \

The hyperparameters of the original pretraining set:

  --seed 42 \
  --batch_size 4096 \
  --num_perm 128 \
  --threshold 0.85 \

Note how the number of permutations is lower, a lower batch size and we have lower hash bits 64 -> 32. We encountered several OOM errors that were a bit inexplicable and decided to lower the memory footprint in this way. The hardware we used was a machine with 128 cores and 1TB of RAM. This data should take less than 100GB of disk space.

Citation

If you find the work in this repository useful, please don't forget to cite:

@inproceedings{snakmodel,
  title={{S}nak{M}odel: Lessons Learned from Training an Open Danish Large Language Model},
  author={Mike Zhang and Max M{\"u}ller-Eberstein and Elisa Bassignana and Rob van der Goot},
  booktitle={The Joint 25th Nordic Conference on Computational Linguistics and 11th Baltic Conference on Human Language Technologies},
  year={2024},
  url={https://openreview.net/forum?id=YxzfgQGpRQ}
}

Downloads last month: 20

Size of downloaded dataset files:

63.3 GB

Size of the auto-converted Parquet files:

63.3 GB

Number of rows:

431,867,387