gsarti commited on
Commit
c23bde7
1 Parent(s): 69632be

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +59 -13
README.md CHANGED
@@ -1,36 +1,82 @@
1
  ---
2
  language:
3
  - it
 
4
  datasets:
5
  - squad_it
6
  tags:
7
  - italian
 
 
 
8
  - text2text-generation
9
  widget:
10
- - text: "In risposta agli aiuti americani a Israele, il 16 ottobre 1973, l' OPEC ha aumentato il prezzo del petrolio del 70%, portandolo a 5,11 dollari al barile. Il giorno successivo, i ministri del petrolio hanno approvato l' embargo, con una riduzione della produzione del cinque per cento rispetto alla produzione di settembre e hanno deciso di continuare a ridurre la produzione con incrementi mensili del cinque per cento fino al raggiungimento dei loro obiettivi economici e politici. Il 19 ottobre Nixon ha chiesto al Congresso di stanziare 2,2 miliardi di dollari in aiuti d' emergenza a Israele, inclusi 1,5 miliardi di dollari in sovvenzioni a fondo perduto. George Lenczowski osserva:\"Le forniture militari non esauriscono la volontà di Nixon di impedire il crollo di Israele Questa decisione[$2,2 miliardi] ha scatenato una risposta collettiva dell' OPEC\". Domanda: Quand'è che l' OPEC ha portato il prezzo del petrolio a 5,11 dollari?"
11
- - text: "Dal punto di vista demografico, era la città più varia della Polonia, con un numero significativo di abitanti di origine straniera. Oltre alla maggioranza polacca, a Varsavia c' era una minoranza ebraica significativa. Secondo il censimento russo del 1897, su una popolazione totale di 638.000 abitanti, gli ebrei costituivano 219.000 persone (circa il 34% per cento). La popolazione ebraica prebellica di Varsavia di oltre 350.000 abitanti costituiva circa il 30 per cento della popolazione totale della città. Nel 1933, su 1.178.914 abitanti, 833.500 erano di lingua polacca. La seconda guerra mondiale cambiò la demografia della città, e ancora oggi la diversità etnica è molto inferiore rispetto ai 300 anni precedenti della storia di Varsavia. La maggior parte della crescita demografica moderna si basa sulla migrazione interna e sull' urbanizzazione. Domanda: Quali sono le ragioni dell'attuale crescita demografica?"
12
- - text: "Nel 1264 Kublai ha rimesso in piedi il trasferimento della capitale mongolese dal Karakorum in Mongolia a Khanbaliq nel 1264, costruendo una nuova città vicino all' ex capitale Jurchen Zhongdu, ora Pechino moderna, nel 1266. Nel 1271, Kublai rivendicò formalmente il Mandato del Cielo e dichiarò che il 1272 era il primo anno del Grande Yuan (Cinese:?) nello stile di una dinastia cinese tradizionale. Il nome della dinastia ha avuto origine dall' I Ching e descrive l'\"origine dell' universo\" o una \"forza primordiale\". Kublai ha proclamato Khanbaliq la \"Grande Capitale\" o Daidu (Dadu, cinese:?? in cinese) della dinastia. Il nome dell' epoca è stato cambiato in Zhiyuan per annunciare una nuova era della storia cinese. L' adozione di un nome dinastico legittimava il dominio mongolo integrando il governo nel racconto della tradizionale successione politica cinese. Khublai ha evocato la sua immagine pubblica di imperatore saggio seguendo i rituali della proprietà confuciana e della venerazione antenata, pur conservando le sue radici come leader delle steppe. Domanda: Quale città divenne poi Pechino?"
13
- - text: "Nel 1264 Kublai ha rimesso in piedi il trasferimento della capitale mongolese dal Karakorum in Mongolia a Khanbaliq nel 1264, costruendo una nuova città vicino all' ex capitale Jurchen Zhongdu, ora Pechino moderna, nel 1266. Nel 1271, Kublai rivendicò formalmente il Mandato del Cielo e dichiarò che il 1272 era il primo anno del Grande Yuan (Cinese:?) nello stile di una dinastia cinese tradizionale. Il nome della dinastia ha avuto origine dall' I Ching e descrive l'\"origine dell' universo\" o una \"forza primordiale\". Kublai ha proclamato Khanbaliq la \"Grande Capitale\" o Daidu (Dadu, cinese:?? in cinese) della dinastia. Il nome dell' epoca è stato cambiato in Zhiyuan per annunciare una nuova era della storia cinese. L' adozione di un nome dinastico legittimava il dominio mongolo integrando il governo nel racconto della tradizionale successione politica cinese. Khublai ha evocato la sua immagine pubblica di imperatore saggio seguendo i rituali della proprietà confuciana e della venerazione antenata, pur conservando le sue radici come leader delle steppe. Domanda: Cosa si celebrò nel 1272 a Pechino?"
14
- license: apache-2.0
15
  metrics:
16
  - f1
17
  - exact-match
18
  model-index:
19
- - name: it5-base-squad-qa
20
  results:
21
  - task:
22
- type: text2text-generation
23
- name: "Question answering"
24
  dataset:
25
  type: squad_it
26
- name: "SQUAD-it"
27
  metrics:
28
  - type: f1
29
- value: 0.00
30
  name: "Test F1"
31
  - type: exact-match
32
- value: 0.00
33
- name: "Test EM"
 
 
 
 
 
 
 
34
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
35
 
36
- # Italian T5 for Question Answering ⁉️
 
 
 
 
 
 
 
 
 
1
  ---
2
  language:
3
  - it
4
+ license: apache-2.0
5
  datasets:
6
  - squad_it
7
  tags:
8
  - italian
9
+ - sequence-to-sequence
10
+ - squad_it
11
+ - question-answering
12
  - text2text-generation
13
  widget:
14
+ - text: "In seguito all' evento di estinzione del Cretaceo-Paleogene, l' estinzione dei dinosauri e il clima umido possono aver permesso alla foresta pluviale tropicale di diffondersi in tutto il continente. Dal 66-34 Mya, la foresta pluviale si estendeva fino a sud fino a 45°. Le fluttuazioni climatiche degli ultimi 34 milioni di anni hanno permesso alle regioni della savana di espandersi fino ai tropici. Durante l' Oligocene, ad esempio, la foresta pluviale ha attraversato una banda relativamente stretta. Si espandeva di nuovo durante il Miocene medio, poi si ritrasse ad una formazione prevalentemente interna all' ultimo massimo glaciale. Tuttavia, la foresta pluviale è riuscita ancora a prosperare durante questi periodi glaciali, consentendo la sopravvivenza e l' evoluzione di un' ampia varietà di specie. Domanda: La foresta pluviale amazzonica è diventata per lo più una foresta interna intorno a quale evento globale?"
15
+ - text: "L' embargo non era uniforme in tutta Europa. Dei nove membri della Comunità Economica Europea (CEE), i Paesi Bassi hanno dovuto affrontare un embargo totale, il Regno Unito e la Francia hanno ricevuto forniture quasi ininterrotte (poichè si sono rifiutati di consentire all' America di utilizzare i loro aerodromi e le armi e forniture embargo sia agli arabi che agli israeliani), mentre gli altri sei hanno dovuto affrontare tagli parziali. Il Regno Unito era tradizionalmente un alleato di Israele, e il governo di Harold Wilson ha sostenuto gli israeliani durante la guerra dei sei giorni. Il suo successore, Ted Heath, ribaltò questa politica nel 1970, chiedendo a Israele di ritirarsi ai suoi confini prima del 1967. Domanda: Il Regno Unito e la Francia non hanno avuto interruzioni dell' approvvigionamento petrolifero in quanto non hanno consentito a quale paese di utilizzare il loro aeroporto?"
16
+ - text: "Nel 1962, il grafico Paul Rand ridisegna il logo ABC nella sua forma più conosciuta (e attuale) con le lettere minuscole \"abc\" racchiuse in un unico cerchio nero. Il nuovo logo esordisce in onda per le promozioni di ABC all' inizio della stagione 1963-64. Le lettere ricordano fortemente il carattere tipografico Bauhaus disegnato da Herbert Bayer negli anni Venti, ma condividono anche similitudini con diversi altri caratteri, come ITC Avant Garde e Horatio, e lo Chalet più simile. La semplicità del logo ha reso più facile la riprogettazione e la duplicazione, il che ha conferito un beneficio per ABC (soprattutto prima dell' avvento della computer grafica). Domanda: Di quale carattere tipografico ricordano le lettere dell' iconico logo ABC?"
17
+ - text: "La fotorespirazione può verificarsi quando la concentrazione di ossigeno è troppo elevata. Rubisco non è in grado di distinguere molto bene tra ossigeno e anidride carbonica, quindi può accidentalmente aggiungere O2 invece di CO2 a RuBP. Questo processo riduce l' efficienza della fotosintesi: consuma ATP e ossigeno, rilascia CO2 e non produce zucchero. Può sprecare fino alla metà del carbonio fissato dal ciclo di Calvin. Diversi meccanismi si sono evoluti in diversi lignaggi che aumentano la concentrazione di anidride carbonica rispetto all' ossigeno all' interno del cloroplasto, aumentando l' efficienza della fotosintesi. Questi meccanismi sono chiamati meccanismi di concentrazione dell' anidride carbonica, o CCM. Tra questi figurano il metabolismo degli acidi crassulaceanici, la fissazione del carbonio C4 e i pirenoidi. I cloroplasti negli impianti C4 sono notevoli in quanto presentano un chiaro dimorfismo cloroplastico. Domanda: Che cosa può fare rubisco per errore?"
 
18
  metrics:
19
  - f1
20
  - exact-match
21
  model-index:
22
+ - name: it5-base-question-answering
23
  results:
24
  - task:
25
+ type: question-answering
26
+ name: "Question Answering"
27
  dataset:
28
  type: squad_it
29
+ name: "SQuAD-IT"
30
  metrics:
31
  - type: f1
32
+ value: 0.761
33
  name: "Test F1"
34
  - type: exact-match
35
+ value: 0.663
36
+ name: "Test Exact Match"
37
+ co2_eq_emissions:
38
+ emissions: "17g"
39
+ source: "Google Cloud Platform Carbon Footprint"
40
+ training_type: "fine-tuning"
41
+ geographical_location: "Eemshaven, Netherlands, Europe"
42
+ hardware_used: "1 TPU v3-8 VM"
43
+ thumbnail: https://gsarti.com/publication/it5/featured.png
44
  ---
45
+ # IT5 Base for Question Answering ⁉️ 🇮🇹
46
+
47
+ This repository contains the checkpoint for the [IT5 Base](https://huggingface.co/gsarti/it5-base) model fine-tuned on extractive question answering on the [SQuAD-IT corpus](https://huggingface.co/datasets/squad_it) as part of the experiments of the paper [IT5: Large-scale Text-to-text Pretraining for Italian Language Understanding and Generation](https://arxiv.org) by [Gabriele Sarti](https://gsarti.com) and [Malvina Nissim](https://malvinanissim.github.io).
48
+
49
+ A comprehensive overview of other released materials is provided in the [gsarti/it5](https://github.com/gsarti/it5) repository. Refer to the paper for additional details concerning the reported scores and the evaluation approach.
50
+
51
+ ## Using the model
52
+
53
+ Model checkpoints are available for usage in Tensorflow, Pytorch and JAX. They can be used directly with pipelines as:
54
+
55
+ ```python
56
+ from transformers import pipelines
57
+
58
+ qa = pipeline("text2text-generation", model='it5/it5-base-question-answering')
59
+ qa("In seguito all' evento di estinzione del Cretaceo-Paleogene, l' estinzione dei dinosauri e il clima umido possono aver permesso alla foresta pluviale tropicale di diffondersi in tutto il continente. Dal 66-34 Mya, la foresta pluviale si estendeva fino a sud fino a 45°. Le fluttuazioni climatiche degli ultimi 34 milioni di anni hanno permesso alle regioni della savana di espandersi fino ai tropici. Durante l' Oligocene, ad esempio, la foresta pluviale ha attraversato una banda relativamente stretta. Si espandeva di nuovo durante il Miocene medio, poi si ritrasse ad una formazione prevalentemente interna all' ultimo massimo glaciale. Tuttavia, la foresta pluviale è riuscita ancora a prosperare durante questi periodi glaciali, consentendo la sopravvivenza e l' evoluzione di un' ampia varietà di specie. Domanda: La foresta pluviale amazzonica è diventata per lo più una foresta interna intorno a quale evento globale?")
60
+ >>> [{"generated_text": "ultimo massimo glaciale"}]
61
+ ```
62
+
63
+ or loaded using autoclasses:
64
+
65
+ ```python
66
+ from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
67
+
68
+ tokenizer = AutoTokenizer.from_pretrained("it5/it5-base-question-answering")
69
+ model = AutoModelForSeq2SeqLM.from_pretrained("it5/it5-base-question-answering")
70
+ ```
71
+
72
+ If you use this model in your research, please cite our work as:
73
 
74
+ ```bibtex
75
+ @article{sarti-nissim-2022-it5,
76
+ title={IT5: Large-scale Text-to-text Pretraining for Italian Language Understanding and Generation},
77
+ author={Sarti, Gabriele and Nissim, Malvina},
78
+ journal={ArXiv preprint TBD},
79
+ url={TBD},
80
+ year={2022}
81
+ }
82
+ ```