Datasets:

anlp

/

anno1_w_elimination

like 0

Follow

anlp team project 4

[ "4.1", "Datasets", "and", "Baselines", "MAVEN", "-ERE", "ONTOEVENT", "-DOC", "#", "Document", "4,480", "4,115", "#", "Mention", "112,276", "60,546", "#", "Temporal", "1,216,217", "5,914", "#", "Causal", "57,992", "14,155", "#", "Subevent", "15,841", "/", "Table", "1", ":", "The", "statistics", "about", "M", "AVEN", "-EREand", "ONTOEVENT", "-DOCused", "in", "this", "paper", "." ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "Datasets", ".", "Considering", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", "require", "fine", "-", "grained", "annotations", "for", "events", ",", "such", "as", "labels", "of", "tokens", ",", "event", "mentions", ",", "and", "event", "-", "relations", ",", "we", "select", "two", "newly", "-", "proposed", "datasets", "meeting", "the", "require-", "ments", ":", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", "and", "ONTOEVENT", "-DOC", "(", "Deng", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "ONTOEVENT", "-DOCis", "derived", "from", "ONTOEVENT", "(", "Deng", "et", "al", ".", ",", "2021", ")", "which", "is", "formatted", "in", "a", "sen-", "tence", "level", "." ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "reorganize", "it", "and", "make", "it", "format", "in", "a", "document", "level", ",", "similar", "to", "MAVEN", "-ERE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "Thus", "the", "train", ",", "validation", ",", "and", "test", "sets", "of", "ONTOEVENT", "-", "DOCare", "also", "different", "from", "the", "original", "ONTO-", "EVENT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "We", "release", "the", "reconstructed", "dataset", "and355", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN†60.09±0.36", "60.34", "±0.45", "60.21", "±0.21", "50.42±0.99", "52.24", "±0.46", "51.31", "±0.39", "BiLSTM", "-", "CRF†61.30±1.07", "64.95", "±1.03", "63.06", "±0.23", "48.86±0.81", "55.91", "±0.56", "52.10", "±0.43", "DMBERT†56.79±0.54", "76.24", "±0.26", "65.09", "±0.32", "53.82±1.01", "66.12", "±1.02", "59.32", "±0.24", "BERT", "-", "CRF†62.79±0.34", "70.51", "±0.94", "65.73", "±0.57", "52.18±0.81", "62.31", "±0.45", "56.80", "±0.53", "MLBiNet‡63.50±0.57", "63.80", "±0.47", "63.60", "±0.52", "56.09±0.93", "57.67", "±0.81", "56.87", "±0.87", "TANL‡68.66±0.18", "63.79", "±0.19", "66.13", "±0.15", "57.73±0.65", "59.93", "±0.31", "59.13", "±0.52", "TEXT2EVENT‡59.91±0.83", "64.62", "±0.65", "62.16", "±0.25", "52.93±0.94", "62.27", "±0.49", "57.22", "±0.75", "CorED", "-", "BERT‡67.62±1.03", "69.49", "±0.63", "68.49", "±0.42", "60.27±0.55", "62.25", "±0.66", "61.25", "±0.19", "SPEECH", "78.82±0.82", "79.37±0.75", "79.09±0.82", "74.67±0.58", "74.73±0.62", "74.70±0.58", "w", "/", "o", "energy", "76.12±0.32", "76.66", "±0.25", "76.38", "±0.28", "71.76±0.38", "72.17", "±0.39", "71.96", "±0.38", "Table", "2", ":", "Performance", "(", "%", ")", "of", "trigger", "classification", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".†", ":", "re-", "sults", "are", "produced", "with", "codes", "referred", "to", "Wang", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020b", ")", ";", "‡", ":", "results", "are", "produced", "with", "official", "implementation", ".", "Best", "results", "are", "marked", "in", "bold", ",", "and", "the", "second", "best", "results", "are", "underlined", ".", "code", "in", "Github1for", "reproduction", ".", "To", "simplify", "the", "experiment", "settings", ",", "we", "dismiss", "hierarchical", "rela-", "tions", "of", "ONTOEVENT", "and", "coreference", "relations", "of", "MAVEN", "-EREin", "this", "paper", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]

[ "More", "details", "of", "multi-", "faceted", "event", "-", "relations", "of", "these", "two", "datasets", "are", "introduced", "in", "Appendix", "A", "and", "Github", ".", "We", "present", "the", "statistics", "about", "these", "two", "datasets", "in", "Table", "1", ".", "The", "document", "quantity", "for", "train", "/", "valid", "/", "test", "set", "of", "MAVEN", "-EREandONTOEVENT", "are", "respectively", "2,913", "/", "710", "/", "857", ",", "and", "2,622", "/", "747", "/", "746", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", ".", "For", "trigger", "classification", "and", "event", "classification", ",", "we", "adopt", "models", "aggregated", "dy-", "namic", "multi", "-", "pooling", "mechanism", ",", "i.e.", ",", "DMCNN", "(", "Chen", "et", "al", ".", ",", "2015", ")", "and", "DMBERT", "(", "Wang", "et", "al", ".", ",", "2019", ")", ";", "sequence", "labeling", "models", "with", "conditional", "random", "field", "(", "CRF", ")", "(", "Lafferty", "et", "al", ".", ",", "2001", ")", ",", "i.e.", ",", "BiLSTM", "-", "CRF", "and", "BERT", "-", "CRF", ";", "generative", "ED", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "adopt", "some", "ED", "models", "considering", "document", "-", "level", "as-", "sociations", ",", "i.e.", ",", "MLBiNet", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Besides", ",", "we", "compare", "our", "energy", "-", "based", "hyperspheres", "with", "the", "vanilla", "hyperspherical", "prototype", "network", "(", "HPN", ")", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "prototype", "-", "based", "model", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "unlike", "vanilla", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "which", "represents", "all", "classes", "on", "one", "hypersphere", ",", "the", "HPN", "adopted", "in", "this", "paper", "represents", "each", "class", "with", "a", "distinct", "hypersphere", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "event", "-", "relation", "extraction", ",", "we", "se-", "lect", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "which", "is", "the", "same", "baseline", "used", "in", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", ",", "and", "also", "serves", "as", "the", "backbone", "for", "most", "of", "recent", "ERE", "models", "(", "Hwang", "et", "al", ".", ",", "2022", ";", "Man", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1https", ":", "/", "/", "github.com", "/", "zjunlp", "/", "SPEECH.4.2", "Implementation", "Details", "With", "regard", "to", "settings", "of", "the", "training", "process", ",", "Adam", "(", "Kingma", "and", "Ba", ",", "2015", ")", "optimizer", "is", "used", ",", "with", "the", "learning", "rate", "of", "5e-5", ".", "The", "maximum", "length", "Lof", "a", "token", "sequence", "is", "128", ",", "and", "the", "maximum", "quantity", "of", "event", "mentions", "in", "one", "document", "is", "set", "to", "40", "for", "MAVEN", "-EREand", "50", "for", "ONTOEVENT", "-", "DOC", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "The", "loss", "ratios", ",", "µ1", ",", "µ2", ",", "µ3", ",", "for", "token", ",", "sen-", "tence", "and", "document", "-", "level", "energy", "function", "are", "all", "set", "to", "1", ".", "The", "value", "of", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", ",", "for", "trigger", "classification", ",", "event", "classification", "and", "event-", "relation", "extraction", "depends", "on", "different", "tasks", ",", "and", "we", "introduce", "them", "in", "Appendix", "B", ".", "We", "evaluate", "the", "performance", "of", "ED", "and", "ERE", "with", "micro", "precision", "(", "P", ")", ",", "Recall", "(", "R", ")", "and", "F1", "Score", "(", "F1", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "O", "O" ]

[ "4.3", "Event", "Trigger", "Classification", "We", "present", "details", "of", "event", "trigger", "classification", "experiment", "settings", "in", "Appendix", "B.1", ".", "As", "seen", "from", "the", "results", "in", "Table", "2", ",", "SPEECH", "demonstrates", "supe-", "rior", "performance", "over", "all", "baselines", ",", "notably", "MLBi-", "Net", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", ",", "even", "if", "these", "two", "models", "consider", "cross", "-", "sentence", "semantic", "information", "or", "incorpo-", "rate", "type", "-", "level", "and", "instance", "-", "level", "correlations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "main", "reason", "may", "be", "due", "to", "the", "energy", "-", "based", "nature", "ofSPEECH", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "As", "seen", "from", "the", "last", "row", "of", "Table", "2", ",", "the", "removal", "of", "energy", "functions", "from", "SPEECH", "can", "result", "in", "a", "performance", "decrease", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", "for", "trigger", "classification", ",", "energy", "-", "based", "modeling", "en-", "ables", "capture", "long", "-", "range", "dependency", "of", "tokens", "and", "places", "no", "limits", "on", "the", "size", "of", "event", "structures", ".", "In", "addition", ",", "SPEECH", "also", "excels", "generative", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", ",", "thereby", "demonstrating", "the", "efficacy", "of", "energy", "-", "based", "modeling.356", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN", "61.74±0.32", "63.11", "±0.34", "62.42", "±0.15", "51.52±0.87", "52.84", "±0.61", "52.02", "±0.36", "DMBERT", "59.45±0.48", "77.77±0.21", "67.39", "±0.25", "57.06±1.04", "72.97±1.11", "65.03±0.45", "HPN", "62.80±0.72", "62.62", "±0.99", "62.71", "±0.85", "61.18±0.81", "60.88", "±0.79", "61.03", "±0.81", "OntoED", "67.82±1.70", "67.72", "±1.52", "67.77", "±1.61", "64.32±1.15", "64.16", "±1.31", "64.25", "±1.22", "TANL", "68.73±0.16", "65.65", "±0.63", "67.15", "±0.29", "60.34±0.71", "62.52", "±0.43", "61.42", "±0.51", "TEXT2EVENT", "61.14±0.80", "65.93", "±0.69", "63.44", "±0.19", "56.76±0.97", "66.78", "±0.48", "61.36", "±0.77", "SPEECH", "72.91±0.76", "72.81", "±0.76", "72.86±0.77", "58.92±0.96", "58.45", "±1.08", "58.69", "±1.40", "w", "/", "o", "energy", "71.22±0.58", "71.07", "±0.45", "71.12", "±0.45", "56.12±1.87", "55.69", "±1.66", "55.91", "±1.76", "Table", "3", ":", "Performance", "(", "%", ")", "of", "event", "classification", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.4", "Event", "Classification", "The", "specifics", "of", "event", "classification", "experiment", "set-", "tings", "are", "elaborated", "in", "Appendix", "B.2", ",", "with", "results", "illustrated", "in", "Table", "3", ".", "We", "can", "observe", "that", "SPEECH", "provides", "considerable", "advantages", "on", "MAVEN", "-ERE", ",", "while", "the", "performance", "on", "ONTOEVENT", "-DOCis", "not", "superior", "enough", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "ONTOEVENT", "-DOCcontains", "overlapping", "where", "multiple", "event", "classes", "may", "ex-", "ist", "in", "the", "same", "event", "mention", ",", "which", "could", "be", "the", "primary", "reason", "for", "SPEECH", "not", "performing", "well", "enough", "in", "this", "case", "." ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "impact", "could", "be", "exacer-", "bated", "when", "joint", "training", "with", "other", "ECSP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "Upon", "comparison", "with", "prototype", "-", "based", "methods", "without", "energy", "-", "based", "modeling", ",", "i.e.", ",", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", ",", "SPEECH", "is", "still", "dominant", "on", "MAVEN", "-ERE", ",", "despite", "HPN", "represents", "classes", "with", "hyperspheres", "and", "On-", "toED", "leverages", "hyperspheres", "integrated", "with", "event-", "relation", "semantics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "we", "exclude", "energy", "functions", "from", "SPEECH", ",", "performance", "will", "degrade", ",", "as", "seen", "from", "the", "last", "row", "in", "Table", "3", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "insight", "sug-", "gests", "that", "energy", "functions", "contribute", "positively", "to", "event", "classification", ",", "which", "enable", "the", "model", "to", "directly", "capture", "complicated", "dependency", "be-", "tween", "event", "mentions", "and", "event", "types", ",", "instead", "of", "implicitly", "inferring", "from", "data", ".", "Besides", ",", "SPEECH", "also", "outperforms", "generative", "models", "like", "TANL", "and", "TEXT2EVENT", "onMAVEN", "-ERE", ",", "indicating", "the", "su-", "periority", "of", "energy", "-", "based", "hyperspherical", "modeling", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Event", "-", "Relation", "Extraction", "We", "present", "the", "specifics", "of", "event", "-", "relation", "extrac-", "tion", "experiment", "settings", "in", "Appendix", "B.3", ".", "As", "seen", "from", "the", "results", "in", "Table", "4", ",", "SPEECH", "achieves", "dif-", "ferent", "performance", "across", "the", "two", "ERE", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "OnONTOEVENT", "-DOCdataset", ",", "SPEECH", "observ-", "ably", "outperforms", "RoBERTa", "on", "all", "ERE", "sub-", "tasks", ",", "demonstrating", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "hyperspheres", ",", "so", "that", "SPEECH", "can", "capture", "the", "dependency", "among", "eventERE", "Task", "RoBERTa", "SPEECH", "TemporalMAVEN", "-ERE", "49.21±0.33", "39.64±0.79", "+", "joint", "49.91±0.58", "40.23±0.34", "ONTOEVENT", "-DOC", "37.68±0.47", "52.36±0.71", "+", "joint", "35.63±0.70", "65.69±0.39", "CausalMAVEN", "-ERE", "29.91±0.34", "16.28±0.53", "+", "joint", "29.03±0.91", "16.31±0.97", "ONTOEVENT", "-DOC", "35.48±1.77", "79.29±2.15", "+", "joint", "44.99±0.29", "67.76±1.28", "SubeventMAVEN", "-ERE", "19.80±0.44", "19.91±0.52", "+", "joint", "19.14±2.81", "21.96±1.24", "All", "JointMAVEN", "-ERE", "34.79±1.13", "37.85±0.72", "ONTOEVENT", "-DOC", "28.60±0.13", "54.19±2.28", "Table", "4", ":", "F1", "(", "%", ")", "performance", "of", "ERE", "on", "M", "AVEN", "-ERE", "valid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "." ]

[ "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "“", "+", "joint", "”", "in", "the", "2", "ndcolumn", "denotes", "jointly", "training", "on", "all", "ERE", "tasks", "and", "evaluating", "on", "the", "specific", "one", ",", "with", "the", "same", "setting", "as", "Wang", "et", "al", ".", "(", "2022", ")", ".", "“", "All", "Joint", "”", "in", "the", "last", "two", "rows", "denotes", "treating", "all", "ERE", "tasks", "as", "one", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ "mention", "pairs", "and", "event", "-", "relation", "labels", ".", "While", "on", "MAVEN", "-ERE", ",", "SPEECH", "significantly", "outperforms", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "subevent", "relations", "or", "trained", "on", "all", "event", "-", "relations", ",", "but", "fails", "to", "exceed", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "temporal", "and", "causal", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "possible", "reason", "is", "that", "MAVEN", "-EREcontains", "less", "positive", "event-", "relations", "than", "negative", "NA", "relations", "." ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "that", "SPEECH", "models", "all", "these", "relations", "equivalently", "with", "the", "energy", "function", ",", "it", "becomes", "challenging", "to", "classify", "NA", "effectively", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "But", "this", "issue", "will", "be", "markedly", "improved", "if", "the", "quantity", "of", "positive", "event-", "relations", "decreases", ",", "since", "SPEECH", "performs", "better", "on", "subevent", "relations", "despite", "MAVEN", "-EREhav-", "ing", "much", "less", "subevent", "relations", "than", "temporal", "and", "causal", "ones", "as", "shown", "in", "Table", "1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "even", "though", "ONTOEVENT", "-DOCcontaining", "fewer", "posi-", "tive", "event", "-", "relations", "than", "NA", "overall", ",", "SPEECH", "still", "performs", "well", "." ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ "These", "results", "suggest", "that", "SPEECH", "excels", "in", "modeling", "classes", "with", "fewer", "samples", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "SPEECH", "also", "performs", "well", "when", "train-", "ing", "on", "all", "event", "-", "relations", "(", "“", "All", "Joint", "”", ")", "of", "the", "two", "datasets", ",", "indicating", "that", "SPEECH", "is", "still", "advanta-", "geous", "in", "the", "scenario", "with", "more", "classes.357", "5", "Further", "Analysis", "5.1", "Analysis", "On", "Energy", "-", "Based", "Modeling", "We", "list", "some", "values", "of", "energy", "loss", "defined", "in", "Eq", "(", "5", ")", ",", "(", "8", ")", "and", "(", "10", ")", "when", "training", "respectively", "for", "token", ",", "sentence", "and", "document", ",", "as", "presented", "in", "Figure", "3", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "values", "of", "token", "-", "level", "energy", "loss", "are", "observ-", "ably", "larger", "than", "those", "at", "the", "sentence", "and", "document", "levels", ".", "This", "can", "be", "attributed", "to", "the", "fact", "that", "the", "en-", "ergy", "loss", "is", "related", "to", "the", "quantity", "of", "samples", ",", "and", "a", "single", "document", "typically", "contains", "much", "more", "tokens", "than", "sentences", "or", "sentence", "pairs", ".", "All", "three", "levels", "of", "energy", "loss", "exhibit", "a", "gradual", "decrease", "over", "the", "course", "of", "training", ",", "indicating", "that", "SPEECH", ",", "through", "energy", "-", "based", "modeling", ",", "effectively", "mini-", "mizes", "the", "discrepancy", "between", "predicted", "results", "and", "ground", "truth", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "energy", "functions", "for", "token", ",", "sentence", "and", "document", "defined", "in", "Eq", "(", "4", ")", ",", "(", "7", ")", "and", "(", "9", ")", ",", "reflect", "that", "the", "implementation", "of", "energy", "-", "based", "modeling", "in", "SPEECH", "is", "geared", "towards", "enhanc-", "ing", "compatibility", "between", "input", "/", "output", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "gradually", "-", "decreasing", "energy", "loss", "demonstrates", "that", "SPEECH", "can", "model", "intricate", "event", "structures", "at", "the", "token", ",", "sentence", ",", "and", "document", "levels", "through", "energy", "-", "based", "optimization", ",", "thereby", "improving", "the", "outcomes", "of", "structured", "prediction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "0", "5", "10", "15", "200255075100125150175200Loss", "for", "Energy", "token", "-", "level", "0", "5", "10", "15", "20", "Iteration", "Step02468Loss", "for", "Energy", "sentence", "-", "level", "document", "-", "level", "Figure", "3", ":", "Illustration", "of", "loss", "for", "energy", ".", "5.2", "Case", "Study", ":", "Energy", "-", "Based", "Hyperspheres", "As", "seen", "in", "Figure", "4", ",", "we", "visualize", "the", "event", "class", "embedding", "of", "“", "Attack", "”", "and", "20", "event", "mention", "embeddings", "as", "generated", "by", "both", "SPEECH", "and", "SPEECH", "without", "energy", "functions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O" ]

[ "We", "observe", "thatforSPEECH", "with", "energy", "-", "based", "modelling", ",", "the", "instances", "lie", "near", "the", "surface", "of", "the", "correspond-", "ing", "hypersphere", ",", "while", "they", "are", "more", "scattered", "when", "not", "equipped", "with", "energy", "-", "based", "modeling", ",", "which", "subsequently", "diminishes", "the", "performance", "of", "event", "classification", ".", "This", "observation", "suggests", "that", "SPEECH", "derives", "significant", "benefits", "from", "modeling", "with", "energy", "-", "based", "hyperspheres", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "visualiza", "-", "tion", "results", "further", "demonstrate", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "modeling", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "1.00", "0.75", "0.50", "0.25", "0.00", "0.25", "0.50", "0.75", "1.001.00", "0.75", "0.50", "0.25", "0.000.250.500.751.001.0", "0.5", "0.00.51.0", "SPEECH", "SPEECH", "w", "/", "o", "energy", "Figure", "4", ":", "Visualization", "of", "an", "example", "event", "class", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Error", "Analysis", "We", "further", "conduct", "error", "analysis", "by", "a", "retrospection", "of", "experimental", "results", "and", "datasets", ".", "(", "1", ")", "One", "typi-", "cal", "error", "relates", "to", "the", "unbalanced", "data", "distribution", ".", "Considering", "every", "event", "type", "and", "event", "-", "relation", "contain", "different", "amount", "of", "instances", ",", "unified", "mod-", "eling", "with", "energy", "-", "based", "hyperspheres", "may", "not", "al-", "ways", "be", "impactful", ".", "(", "2", ")", "The", "second", "error", "relates", "to", "the", "overlapping", "event", "mentions", "among", "event", "types", ",", "meaning", "that", "the", "same", "sentence", "may", "mention", "mul-", "tiple", "event", "types", ".", "As", "ONTOEVENT", "-DOCcontains", "many", "overlappings", ",", "it", "might", "be", "the", "reason", "for", "its", "mediocre", "performance", "on", "ED", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "(", "3", ")", "The", "third", "error", "relates", "to", "associations", "with", "event", "-", "centric", "structured", "prediction", "tasks", ".", "As", "trigger", "classification", "is", "closely", "related", "to", "event", "classification", ",", "wrong", "prediction", "of", "tokens", "will", "also", "influence", "classifying", "events", ".", "6", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "propose", "a", "novel", "approach", "entitled", "SPEECH", "to", "tackle", "event", "-", "centric", "structured", "predic-", "tion", "with", "energy", "-", "based", "hyperspheres", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "represent", "event", "classes", "as", "hyperspheres", "with", "token", ",", "sentence", "and", "document", "-", "level", "energy", ",", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "rela-", "tion", "extraction", "tasks", ".", "We", "evaluate", "SPEECH", "on", "two", "event", "-", "centric", "structured", "prediction", "datasets", ",", "and", "experimental", "results", "demonstrate", "that", "SPEECH", "is", "able", "to", "model", "manifold", "event", "structures", "with", "depen-", "dency", "and", "obtain", "effective", "event", "representations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "future", ",", "we", "intend", "to", "enhance", "our", "work", "by", "mod-", "eling", "more", "complicated", "structures", "and", "extend", "it", "to", "other", "structured", "prediction", "tasks.358", "Acknowledgements", "We", "would", "like", "to", "express", "gratitude", "to", "the", "anony-", "mous", "reviewers", "for", "their", "kind", "comments", ".", "This", "work", "was", "supported", "by", "the", "Zhejiang", "Provin-", "cial", "Natural", "Science", "Foundation", "of", "China", "(", "No", ".", "LGG22F030011", ")", ",", "Yongjiang", "Talent", "Introduction", "Programme", "(", "2021A-156", "-", "G", ")", ",", "CAAI", "-", "Huawei", "Mind-", "Spore", "Open", "Fund", ",", "and", "NUS", "-", "NCS", "Joint", "Laboratory", "(", "A-0008542", "-", "00", "-", "00", ")", ".", "Limitations", "Although", "SPEECH", "performs", "well", "on", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", ",", "it", "still", "has", "some", "limitations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "first", "limitation", "relates", "to", "efficiency", ".", "As", "SPEECH", "involves", "many", "tasks", "and", "requires", "complex", "calculation", ",", "the", "training", "pro-", "cess", "is", "not", "very", "prompt", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "second", "limitation", "relates", "to", "robustness", ".", "As", "seen", "in", "the", "experimen-", "tal", "analysis", "in§4.5", ",", "SPEECH", "seems", "not", "always", "robust", "to", "unevenly", "-", "distributed", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "third", "limitation", "relates", "to", "universality", ".", "Not", "all", "event-", "centric", "structured", "prediction", "tasks", "can", "simultane-", "ously", "achieve", "the", "best", "performance", "at", "the", "same", "settings", "of", "S", "PEECH", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O" ]

[ "References", "David", "Belanger", "and", "Andrew", "McCallum", ".", "2016", ".", "Struc-", "tured", "prediction", "energy", "networks", ".", "In", "ICML", ",", "vol-", "ume", "48", "of", "JMLR", "Workshop", "and", "Conference", "Pro-", "ceedings", ",", "pages", "983–992", ".", "JMLR.org", ".", "David", "Belanger", ",", "Bishan", "Yang", ",", "and", "Andrew", "McCallum", ".", "2017", ".", "End", "-", "to", "-", "end", "learning", "for", "structured", "prediction", "energy", "networks", ".", "In", "ICML", ",", "volume", "70", "of", "Proceed-", "ings", "of", "Machine", "Learning", "Research", ",", "pages", "429–439", ".", "PMLR", ".", "Yubo", "Chen", ",", "Liheng", "Xu", ",", "Kang", "Liu", ",", "Daojian", "Zeng", ",", "and", "Jun", "Zhao", ".", "2015", ".", "Event", "extraction", "via", "dynamic", "multi-", "pooling", "convolutional", "neural", "networks", ".", "In", "ACL", "(", "1", ")", ",", "pages", "167–176", ".", "The", "Association", "for", "Computer", "Lin-", "guistics", ".", "Shiyao", "Cui", ",", "Bowen", "Yu", ",", "Tingwen", "Liu", ",", "Zhenyu", "Zhang", ",", "Xuebin", "Wang", ",", "and", "Jinqiao", "Shi", ".", "2020", ".", "Edge-", "enhanced", "graph", "convolution", "networks", "for", "event", "de-", "tection", "with", "syntactic", "relation", ".", "In", "EMNLP", "(", "Find-", "ings", ")", ",", "pages", "2329–2339", ".", "Association", "for", "Computa-", "tional", "Linguistics", ".", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Hui", "Chen", ",", "Chuanqi", "Tan", ",", "Fei", "Huang", ",", "Changliang", "Xu", ",", "and", "Huajun", "Chen", ".", "2022", ".", "Low", "-", "resource", "extraction", "with", "knowledge-", "aware", "pairwise", "prototype", "learning", ".", "Knowl", ".", "Based", "Syst", ".", ",", "235:107584.Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Jiaojian", "Kang", ",", "Yichi", "Zhang", ",", "Wei", "Zhang", ",", "and", "Huajun", "Chen", ".", "2020", ".", "Meta-", "learning", "with", "dynamic", "-", "memory", "-", "based", "prototypical", "network", "for", "few", "-", "shot", "event", "detection", ".", "In", "WSDM", ",", "pages", "151–159", ".", "ACM", ".", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Luoqiu", "Li", ",", "Hui", "Chen", ",", "Huaixiao", "Tou", ",", "Mosha", "Chen", ",", "Fei", "Huang", ",", "and", "Hua-", "jun", "Chen", ".", "2021", ".", "Ontoed", ":", "Low", "-", "resource", "event", "detec-", "tion", "with", "ontology", "embedding", ".", "In", "ACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2828–2839", ".", "Association", "for", "Computational", "Linguistics", ".", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", ".", "2019", ".", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", ".", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "4171–4186", ".", "As-", "sociation", "for", "Computational", "Linguistics", ".", "Ning", "Ding", ",", "Xiaobin", "Wang", ",", "Yao", "Fu", ",", "Guangwei", "Xu", ",", "Rui", "Wang", ",", "Pengjun", "Xie", ",", "Ying", "Shen", ",", "Fei", "Huang", ",", "Hai", "-", "Tao", "Zheng", ",", "and", "Rui", "Zhang", ".", "2021", ".", "Prototypical", "repre-", "sentation", "learning", "for", "relation", "extraction", ".", "In", "ICLR", ".", "OpenReview.net", ".", "Xinya", "Du", "and", "Claire", "Cardie", ".", "2020", ".", "Event", "extraction", "by", "answering", "(", "almost", ")", "natural", "questions", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "671–683", ".", "Association", "for", "Computational", "Linguistics", ".", "Rujun", "Han", ",", "Yichao", "Zhou", ",", "and", "Nanyun", "Peng", ".", "2020", ".", "Do-", "main", "knowledge", "empowered", "structured", "neural", "net", "for", "end", "-", "to", "-", "end", "event", "temporal", "relation", "extraction", ".", "InEMNLP", "(", "1", ")", ",", "pages", "5717–5729", ".", "Association", "for", "Computational", "Linguistics", ".", "I", "-", "Hung", "Hsu", ",", "Kuan", "-", "Hao", "Huang", ",", "Elizabeth", "Boschee", ",", "Scott", "Miller", ",", "Prem", "Natarajan", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Nanyun", "Peng", ".", "2022", ".", "DEGREE", ":", "A", "data-", "efficient", "generation", "-", "based", "event", "extraction", "model", ".", "InNAACL", "-", "HLT", ",", "pages", "1890–1908", ".", "Association", "for", "Computational", "Linguistics", ".", "EunJeong", "Hwang", ",", "Jay", "-", "Yoon", "Lee", ",", "Tianyi", "Yang", ",", "Dhru-", "vesh", "Patel", ",", "Dongxu", "Zhang", ",", "and", "Andrew", "McCallum", ".", "2022", ".", "Event", "-", "event", "relation", "extraction", "using", "proba-", "bilistic", "box", "embedding", ".", "In", "ACL", "(", "2", ")", ",", "pages", "235–244", ".", "Association", "for", "Computational", "Linguistics", ".", "Abhyuday", "Jagannatha", "and", "Hong", "Yu", ".", "2016", ".", "Structured", "prediction", "models", "for", "RNN", "based", "sequence", "labeling", "in", "clinical", "text", ".", "In", "EMNLP", ",", "pages", "856–865", ".", "The", "As-", "sociation", "for", "Computational", "Linguistics", ".", "Diederik", "P", ".", "Kingma", "and", "Jimmy", "Ba", ".", "2015", ".", "Adam", ":", "A", "method", "for", "stochastic", "optimization", ".", "In", "ICLR", "(", "Poster", ")", ".", "Julia", "Kreutzer", ",", "Stefan", "Riezler", ",", "and", "Carolin", "Lawrence", ".", "2021", ".", "Offline", "reinforcement", "learning", "from", "human", "feedback", "in", "real", "-", "world", "sequence", "-", "to", "-", "sequence", "tasks", ".", "InSPNLP", "@", "ACL", "-", "IJCNLP", ",", "pages", "37–43", ".", "Associa-", "tion", "for", "Computational", "Linguistics.359", "Julia", "Kreutzer", ",", "Artem", "Sokolov", ",", "and", "Stefan", "Riezler", ".", "2017", ".", "Bandit", "structured", "prediction", "for", "neural", "sequence", "-", "to", "-", "sequence", "learning", ".", "In", "ACL", "(", "1", ")", ",", "pages", "1503–1513", ".", "Association", "for", "Computational", "Linguis-", "tics", ".", "John", "D", ".", "Lafferty", ",", "Andrew", "McCallum", ",", "and", "Fernando", "C", ".", "N", ".", "Pereira", ".", "2001", ".", "Conditional", "random", "fields", ":", "Probabilistic", "models", "for", "segmenting", "and", "labeling", "se-", "quence", "data", ".", "In", "ICML", ",", "pages", "282–289", ".", "Morgan", "Kaufmann", ".", "Viet", "Dac", "Lai", ",", "Franck", "Dernoncourt", ",", "and", "Thien", "Huu", "Nguyen", ".", "2021", ".", "Learning", "prototype", "representations", "across", "few", "-", "shot", "tasks", "for", "event", "detection", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "5270–5277", ".", "Association", "for", "Computa-", "tional", "Linguistics", ".", "Viet", "Dac", "Lai", ",", "Tuan", "Ngo", "Nguyen", ",", "and", "Thien", "Huu", "Nguyen", ".", "2020", ".", "Event", "detection", ":", "Gate", "diversity", "and", "syntactic", "importance", "scores", "for", "graph", "convolution", "neural", "networks", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "5405–5411", ".", "Association", "for", "Computational", "Linguistics", ".", "Yann", "Lecun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "Marc", "Aure-", "lio", "Ranzato", ",", "and", "Fu", "Jie", "Huang", ".", "2006", ".", "A", "tutorial", "on", "energy", "-", "based", "learning", ".", "Predicting", "structured", "data", ".", "Manling", "Li", ",", "Qi", "Zeng", ",", "Ying", "Lin", ",", "Kyunghyun", "Cho", ",", "Heng", "Ji", ",", "Jonathan", "May", ",", "Nathanael", "Chambers", ",", "and", "Clare", "R", ".", "V", "oss", ".", "2020", ".", "Connecting", "the", "dots", ":", "Event", "graph", "schema", "induction", "with", "path", "language", "modeling", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "684–695", ".", "Association", "for", "Com-", "putational", "Linguistics", ".", "Qi", "Li", ",", "Heng", "Ji", ",", "and", "Liang", "Huang", ".", "2013", ".", "Joint", "event", "extraction", "via", "structured", "prediction", "with", "global", "fea-", "tures", ".", "In", "ACL", "(", "1", ")", ",", "pages", "73–82", ".", "The", "Association", "for", "Computer", "Linguistics", ".", "Ying", "Lin", ",", "Heng", "Ji", ",", "Fei", "Huang", ",", "and", "Lingfei", "Wu", ".", "2020", ".", "A", "joint", "neural", "model", "for", "information", "extraction", "with", "global", "features", ".", "In", "ACL", ",", "pages", "7999–8009", ".", "Associa-", "tion", "for", "Computational", "Linguistics", ".", "Jian", "Liu", ",", "Yubo", "Chen", ",", "Kang", "Liu", ",", "Wei", "Bi", ",", "and", "Xiaojiang", "Liu", ".", "2020a", ".", "Event", "extraction", "as", "machine", "reading", "comprehension", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "1641–1651", ".", "Association", "for", "Computational", "Linguistics", ".", "Kang", "Liu", ",", "Yubo", "Chen", ",", "Jian", "Liu", ",", "Xinyu", "Zuo", ",", "and", "Jun", "Zhao", ".", "2020b", ".", "Extracting", "events", "and", "their", "relations", "from", "texts", ":", "A", "survey", "on", "recent", "research", "progress", "and", "challenges", ".", "AI", "Open", ",", "1:22–39", ".", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", ".", "2019", ".", "Roberta", ":", "A", "robustly", "optimized", "BERT", "pretraining", "ap-", "proach", ".", "CoRR", ",", "abs", "/", "1907.11692", ".", "Dongfang", "Lou", ",", "Zhilin", "Liao", ",", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "and", "Huajun", "Chen", ".", "2021", ".", "Mlbinet", ":", "A", "cross-", "sentence", "collective", "event", "detection", "network", ".", "In", "ACL", ".", "Association", "for", "Computational", "Linguistics", ".", "Yaojie", "Lu", ",", "Hongyu", "Lin", ",", "Jin", "Xu", ",", "Xianpei", "Han", ",", "Jialong", "Tang", ",", "Annan", "Li", ",", "Le", "Sun", ",", "Meng", "Liao", ",", "and", "Shaoyi", "Chen", ".", "2021", ".", "Text2event", ":", "Controllable", "sequence", "-", "to-", "structure", "generation", "for", "end", "-", "to", "-", "end", "event", "extraction", ".", "InACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2795–2806", ".", "Association", "for", "Computational", "Linguistics", ".", "Yaojie", "Lu", ",", "Qing", "Liu", ",", "Dai", "Dai", ",", "Xinyan", "Xiao", ",", "Hongyu", "Lin", ",", "Xianpei", "Han", ",", "Le", "Sun", ",", "and", "Hua", "Wu", ".", "2022", ".", "Uni-", "fied", "structure", "generation", "for", "universal", "information", "extraction", ".", "In", "ACL", "(", "1", ")", ",", "pages", "5755–5772", ".", "Associ-", "ation", "for", "Computational", "Linguistics", ".", "Hieu", "Man", ",", "Nghia", "Trung", "Ngo", ",", "Linh", "Ngo", "Van", ",", "and", "Thien", "Huu", "Nguyen", ".", "2022", ".", "Selecting", "optimal", "con-", "text", "sentences", "for", "event", "-", "event", "relation", "extraction", ".", "In", "AAAI", ",", "pages", "11058–11066", ".", "AAAI", "Press", ".", "Yuanliang", "Meng", "and", "Anna", "Rumshisky", ".", "2018", ".", "Context-", "aware", "neural", "model", "for", "temporal", "information", "extrac-", "tion", ".", "In", "ACL", "(", "1", ")", ",", "pages", "527–536", ".", "Association", "for", "Computational", "Linguistics", ".", "Pascal", "Mettes", ",", "Elise", "van", "der", "Pol", ",", "and", "Cees", "Snoek", ".", "2019", ".", "Hyperspherical", "prototype", "networks", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "32", ",", "pages", "1487–1497", ".", "Curran", "Associates", ",", "Inc", ".", "Thien", "Huu", "Nguyen", ",", "Kyunghyun", "Cho", ",", "and", "Ralph", "Grish-", "man", ".", "2016", ".", "Joint", "event", "extraction", "via", "recurrent", "neu-", "ral", "networks", ".", "In", "HLT", "-", "NAACL", ",", "pages", "300–309", ".", "The", "Association", "for", "Computational", "Linguistics", ".", "Trung", "Minh", "Nguyen", "and", "Thien", "Huu", "Nguyen", ".", "2019", ".", "One", "for", "all", ":", "Neural", "joint", "modeling", "of", "entities", "and", "events", ".", "In", "AAAI", ",", "pages", "6851–6858", ".", "AAAI", "Press", ".", "Giovanni", "Paolini", ",", "Ben", "Athiwaratkun", ",", "Jason", "Krone", ",", "Jie", "Ma", ",", "Alessandro", "Achille", ",", "Rishita", "Anubhai", ",", "Cícero", "Nogueira", "dos", "Santos", ",", "Bing", "Xiang", ",", "and", "Ste-", "fano", "Soatto", ".", "2021", ".", "Structured", "prediction", "as", "transla-", "tion", "between", "augmented", "natural", "languages", ".", "In", "ICLR", ".", "OpenReview.net", ".", "Colin", "Raffel", ",", "Noam", "Shazeer", ",", "Adam", "Roberts", ",", "Katherine", "Lee", ",", "Sharan", "Narang", ",", "Michael", "Matena", ",", "Yanqi", "Zhou", ",", "Wei", "Li", ",", "and", "Peter", "J", ".", "Liu", ".", "2020", ".", "Exploring", "the", "limits", "of", "transfer", "learning", "with", "a", "unified", "text", "-", "to", "-", "text", "trans-", "former", ".", "J", ".", "Mach", ".", "Learn", ".", "Res", ".", ",", "21:140:1–140:67", ".", "Victor", "Sanh", ",", "Lysandre", "Debut", ",", "Julien", "Chaumond", ",", "and", "Thomas", "Wolf", ".", "2019", ".", "Distilbert", ",", "a", "distilled", "version", "of", "BERT", ":", "smaller", ",", "faster", ",", "cheaper", "and", "lighter", ".", "In", "Fifth", "Workshop", "on", "Energy", "Efficient", "Machine", "Learn-", "ing", "and", "Cognitive", "Computing", "-", "NeurIPS", "Edition", "(", "EMC2", "-", "NIPS", ")", ".", "IEEE", ".", "Jiawei", "Sheng", ",", "Rui", "Sun", ",", "Shu", "Guo", ",", "Shiyao", "Cui", ",", "Jiangxia", "Cao", ",", "Lihong", "Wang", ",", "Tingwen", "Liu", ",", "and", "Hongbo", "Xu", ".", "2022", ".", "Cored", ":", "Incorporating", "type", "-", "level", "and", "instance-", "level", "correlations", "for", "fine", "-", "grained", "event", "detection", ".", "InSIGIR", ",", "pages", "1122–1132", ".", "ACM", ".", "Noah", "A", ".", "Smith", ".", "2011", ".", "Linguistic", "Structure", "Prediction", ".", "Synthesis", "Lectures", "on", "Human", "Language", "Technolo-", "gies", ".", "Morgan", "&", "Claypool", "Publishers.360", "Benjamin", "Taskar", ",", "Vassil", "Chatalbashev", ",", "Daphne", "Koller", ",", "and", "Carlos", "Guestrin", ".", "2005", ".", "Learning", "structured", "pre-", "diction", "models", ":", "a", "large", "margin", "approach", ".", "In", "ICML", ",", "volume", "119", "of", "ACM", "International", "Conference", "Pro-", "ceeding", "Series", ",", "pages", "896–903", ".", "ACM", ".", "Lifu", "Tu", "and", "Kevin", "Gimpel", ".", "2018", ".", "Learning", "approx-", "imate", "inference", "networks", "for", "structured", "prediction", ".", "InICLR", "(", "Poster", ")", ".", "OpenReview.net", ".", "Haoyu", "Wang", ",", "Muhao", "Chen", ",", "Hongming", "Zhang", ",", "and", "Dan", "Roth", ".", "2020a", ".", "Joint", "constrained", "learning", "for", "event", "-", "event", "relation", "extraction", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "696–706", ".", "Association", "for", "Computational", "Lin-", "guistics", ".", "Tongzhou", "Wang", "and", "Phillip", "Isola", ".", "2020", ".", "Understand-", "ing", "contrastive", "representation", "learning", "through", "align-", "ment", "and", "uniformity", "on", "the", "hypersphere", ".", "In", "ICML", ",", "volume", "119", "of", "Proceedings", "of", "Machine", "Learning", "Re-", "search", ",", "pages", "9929–9939", ".", "PMLR", ".", "Xiaozhi", "Wang", ",", "Yulin", "Chen", ",", "Ning", "Ding", ",", "Hao", "Peng", ",", "Zimu", "Wang", ",", "Yankai", "Lin", ",", "Xu", "Han", ",", "Lei", "Hou", ",", "Juanzi", "Li", ",", "Zhiyuan", "Liu", ",", "Peng", "Li", ",", "and", "Jie", "Zhou", ".", "2022", ".", "MA", "VEN", "-", "ERE", ":", "A", "unified", "large", "-", "scale", "dataset", "for", "event", "coreference", ",", "temporal", ",", "causal", ",", "and", "subevent", "re-", "lation", "extraction", ".", "In", "EMNLP", ",", "pages", "926–941", ".", "Asso-", "ciation", "for", "Computational", "Linguistics", ".", "Xiaozhi", "Wang", ",", "Xu", "Han", ",", "Zhiyuan", "Liu", ",", "Maosong", "Sun", ",", "and", "Peng", "Li", ".", "2019", ".", "Adversarial", "training", "for", "weakly", "supervised", "event", "detection", ".", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "998–1008", ".", "Association", "for", "Computational", "Linguistics", ".", "Xiaozhi", "Wang", ",", "Ziqi", "Wang", ",", "Xu", "Han", ",", "Wangyi", "Jiang", ",", "Rong", "Han", ",", "Zhiyuan", "Liu", ",", "Juanzi", "Li", ",", "Peng", "Li", ",", "Yankai", "Lin", ",", "and", "Jie", "Zhou", ".", "2020b", ".", "MA", "VEN", ":", "A", "massive", "gen-", "eral", "domain", "event", "detection", "dataset", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "1652–1671", ".", "Association", "for", "Computational", "Linguistics", ".", "Xingyao", "Wang", ",", "Sha", "Li", ",", "and", "Heng", "Ji", ".", "2023", ".", "Code4struct", ":", "Code", "generation", "for", "few", "-", "shot", "structured", "prediction", "from", "natural", "language", ".", "In", "ACL", "(", "1", ")", ".", "Association", "for", "Computational", "Linguistics", ".", "Haoran", "Yan", ",", "Xiaolong", "Jin", ",", "Xiangbin", "Meng", ",", "Jiafeng", "Guo", ",", "and", "Xueqi", "Cheng", ".", "2019", ".", "Event", "detection", "with", "multi", "-", "order", "graph", "convolution", "and", "aggregated", "atten-", "tion", ".", "In", "EMNLP", "/", "IJCNLP", "(", "1", ")", ",", "pages", "5765–5769", ".", "As-", "sociation", "for", "Computational", "Linguistics", ".", "Appendices", "A", "Multi", "-", "Faceted", "Event", "-", "Relations", "Note", "that", "MAVEN", "-EREandONTOEVENT", "-DOC", "both", "includes", "multi", "-", "faceted", "event", "-", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "MAVEN", "-EREin", "this", "paper", "contains", "6", "tempo-", "ral", "relations", ":", "BEFORE", ",", "OVERLAP", ",", "CONTAINS", ",", "SIMULTANEOUS", ",", "BEGINS", "-", "ON", ",", "ENDS", "-", "ON", ";", "2causal", "relations", ":", "CAUSE", ",", "PRECONDITION", ";", "and", "1", "subevent", "relation", ":", "subevent_relations", "." ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ONTOEVENT", "-DOCin", "this", "paper", "contains", "3", "tem-", "poral", "relations", ":", "BEFORE", ",", "AFTER", ",", "EQUAL", ";", "and", "2", "causal", "relations", ":", "CAUSE", ",", "CAUSEDBY", "." ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "add", "a", "NA", "relation", "to", "signify", "no", "relation", "between", "the", "event", "mention", "pair", "for", "the", "two", "datasets", ".", "B", "Implementation", "Details", "for", "Different", "Tasks", "B.1", "Event", "Trigger", "Classification", "Settings", ".", "We", "follow", "the", "similar", "evaluation", "protocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Sheng", "et", "al", ".", ",", "2022", ")", "on", "trigger", "classification", "tasks", ".", "We", "present", "the", "results", "in", "Table", "2", "when", "jointly", "training", "with", "event", "classification", "and", "the", "whole", "ERE", "task", "(", "“", "All", "Joint", "”", "in", "Table", "4", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "backbone", "encoder", "is", "pretrained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "both", "ONTOEVENT", "-DOCandMAVEN", "-", "ERE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O" ]

[ "B.2", "Event", "Classification", "Settings", ".", "We", "follow", "the", "similar", "evaluation", "pro-", "tocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Deng", "et", "al", ".", ",", "2021", ")", "on", "event", "classification", "tasks", ".", "We", "present", "the", "results", "in", "Table", "3", "when", "jointly", "train-", "ing", "with", "trigger", "classification", "and", "all", "ERE", "subtasks", "(", "“", "+", "joint", "”", "in", "Table", "4", ")", ".", "The", "backbone", "encoder", "is", "pre-", "trained", "DistilBERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "0.1", ",", "1", ",", "0.1", "for", "ONTOEVENT", "-DOCand", "1", ",", "0.1", ",", "0.1", "for", "M", "AVEN", "-ERE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "B.3", "Event", "-", "Relation", "Extraction", "Settings", ".", "We", "follow", "the", "similar", "ERE", "experiment", "settings", "with", "Wang", "et", "al", ".", "(", "2022", ")", "on", "several", "sub-", "tasks", ",", "by", "separately", "and", "jointly", "training", "on", "tem-", "poral", ",", "causal", ",", "and", "subevent", "event", "-", "relations", ".", "We", "present", "the", "results", "in", "Table", "4", "when", "jointly", "training", "with", "trigger", "classification", "and", "event", "classification", "tasks", ".", "The", "backbone", "encoder", "is", "pretrained", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "ONTOEVENT", "-DOC", "dataset", ",", "the", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "re-", "spectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "all", "ERE", "subtasks", "." ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "MAVEN", "-EREdataset", ",", "λ1", ",", "λ2", ",", "λ3are", "respectively", "set", "to", "0.1", ",", "0.1", ",", "1", "for", "“", "All", "Joint", "”", "ERE", "subtasks", "in", "Ta-", "ble", "4", ";", "1", ",", "1", ",", "4", "for", "“", "+", "joint", "”", ";", "1", ",", "0.1", ",", "0.1", "for", "“", "Temporal", "”", "and", "“", "Causal", "”", ";", "and", "1", ",", "0.1", ",", "0.08", "for", "“", "Subevent”.361", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "square\u0013A1", "." ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", ".", "/", "squareA2", ".", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Not", "applicable", ".", "Left", "blank", ".", "/", "square\u0013A3", ".", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Abstract", "&", "at", "the", "end", "of", "Section", "1", "&", "Section", "6", "/", "square\u0017A4", ".", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", ".", "B", "/", "square\u0013Did", "you", "use", "or", "create", "scientific", "artifacts", "?", "Section", "4", "/", "square\u0013B1", ".", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Section", "4.1", "/", "square\u0013B2", ".", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Section", "4", "/", "square\u0013B3", ".", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "specified", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Section", "4", "/", "squareB4", ".", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identifies", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Not", "applicable", ".", "I", "use", "the", "existing", "benchmark", "/", "squareB5", ".", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", ".", "?", "Not", "applicable", ".", "need", "n’t", "to", "/", "square\u0013B6", ".", "Did", "you", "report", "relevant", "statistics", "like", "the", "number", "of", "examples", ",", "details", "of", "train", "/", "test", "/", "dev", "splits", ",", "etc", ".", "for", "the", "data", "that", "you", "used", "/", "created", "?", "Even", "for", "commonly", "-", "used", "benchmark", "datasets", ",", "include", "the", "number", "of", "examples", "in", "train", "/", "validation", "/", "test", "splits", ",", "as", "these", "provide", "necessary", "context", "for", "a", "reader", "to", "understand", "experimental", "results", ".", "For", "example", ",", "small", "differences", "in", "accuracy", "on", "large", "test", "sets", "may", "be", "significant", ",", "while", "on", "small", "test", "sets", "they", "may", "not", "be", ".", "Section", "4.1", "C", "/", "square\u0013Did", "you", "run", "computational", "experiments", "?", "Section", "4", "Datasets", "and", "Baselines", "are", "in", "Section", "4.1", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "Main", "experiments", "are", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ",", "and", "Further", "Analysis", "is", "in", "Section", "5", "/", "square\u0017C1", ".", "Did", "you", "report", "the", "number", "of", "parameters", "in", "the", "models", "used", ",", "the", "total", "computational", "budget", "(", "e.g.", ",", "GPU", "hours", ")", ",", "and", "computing", "infrastructure", "used", "?", "I", "have", "listed", "the", "implementation", "details", "of", "experiments", "at", "Sec", "4.2", "&", "Appendix", "B", ".", "The", "total", "computa-", "tional", "budget", "&", "computing", "infrastructure", "used", "are", "not", "the", "main", "concerns", "of", "our", "work", ",", "and", "we", "also", "The", "Responsible", "NLP", "Checklist", "used", "at", "ACL", "2023", "is", "adopted", "from", "NAACL", "2022", ",", "with", "the", "addition", "of", "a", "question", "on", "AI", "writing", "assistance.362", "did", "n’t", "run", "time", "statistics", ".", "But", "we", "will", "provide", "more", "details", "when", "publication", ",", "and", "the", "codes", "will", "also", "mention", "more", "details", "on", "it", ".", "/", "square\u0013C2", ".", "Did", "you", "discuss", "the", "experimental", "setup", ",", "including", "hyperparameter", "search", "and", "best", "-", "found", "hyperparameter", "values", "?", "Section", "4.2", ",", "Appendix", "B", "/", "square\u0013C3", ".", "Did", "you", "report", "descriptive", "statistics", "about", "your", "results", "(", "e.g.", ",", "error", "bars", "around", "results", ",", "summary", "statistics", "from", "sets", "of", "experiments", ")", ",", "and", "is", "it", "transparent", "whether", "you", "are", "reporting", "the", "max", ",", "mean", ",", "etc", ".", "or", "just", "a", "single", "run", "?", "We", "run", "our", "model", "and", "baselines", "multiple", "times", "and", "calculate", "an", "average", "with", "upper", "and", "lower", "bounds", ",", "which", "are", "shown", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ".", "/", "squareC4", ".", "If", "you", "used", "existing", "packages", "(", "e.g.", ",", "for", "preprocessing", ",", "for", "normalization", ",", "or", "for", "evaluation", ")", ",", "did", "you", "report", "the", "implementation", ",", "model", ",", "and", "parameter", "settings", "used", "(", "e.g.", ",", "NLTK", ",", "Spacy", ",", "ROUGE", ",", "etc", ".", ")", "?", "Not", "applicable", ".", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "D", "/", "square\u0017Did", "you", "use", "human", "annotators", "(", "e.g.", ",", "crowdworkers", ")", "or", "research", "with", "human", "participants", "?", "Left", "blank", ".", "/", "squareD1", ".", "Did", "you", "report", "the", "full", "text", "of", "instructions", "given", "to", "participants", ",", "including", "e.g.", ",", "screenshots", ",", "disclaimers", "of", "any", "risks", "to", "participants", "or", "annotators", ",", "etc", ".", "?", "No", "response", ".", "/", "squareD2", ".", "Did", "you", "report", "information", "about", "how", "you", "recruited", "(", "e.g.", ",", "crowdsourcing", "platform", ",", "students", ")", "and", "paid", "participants", ",", "and", "discuss", "if", "such", "payment", "is", "adequate", "given", "the", "participants", "’", "demographic", "(", "e.g.", ",", "country", "of", "residence", ")", "?", "No", "response", ".", "/", "squareD3", ".", "Did", "you", "discuss", "whether", "and", "how", "consent", "was", "obtained", "from", "people", "whose", "data", "you", "’re", "using", "/", "curating", "?", "For", "example", ",", "if", "you", "collected", "data", "via", "crowdsourcing", ",", "did", "your", "instructions", "to", "crowdworkers", "explain", "how", "the", "data", "would", "be", "used", "?", "No", "response", ".", "/", "squareD4", ".", "Was", "the", "data", "collection", "protocol", "approved", "(", "or", "determined", "exempt", ")", "by", "an", "ethics", "review", "board", "?", "No", "response", ".", "/", "squareD5", ".", "Did", "you", "report", "the", "basic", "demographic", "and", "geographic", "characteristics", "of", "the", "annotator", "population", "that", "is", "the", "source", "of", "the", "data", "?", "No", "response.363" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "855–876", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "On", "-", "the", "-", "fly", "Cross", "-", "lingual", "Masking", "for", "Multilingual", "Pre", "-", "training", "Xi", "Ai", "College", "of", "Computer", "Science", "Chongqing", "University", "barid.x.ai", "@", "gmail.comBin", "Fang", "College", "of", "Computer", "Science", "Chongqing", "University", "fb", "@", "cqu.edu.cn", "Abstract", "In", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "(", "masked", "language", "modeling", ")", "on", "mul-", "tiple", "monolingual", "corpora", ",", "multilingual", "mod-", "els", "only", "learn", "cross", "-", "linguality", "implicitly", "from", "isomorphic", "spaces", "formed", "by", "overlapping", "dif-", "ferent", "language", "spaces", "due", "to", "the", "lack", "of", "ex-", "plicit", "cross", "-", "lingual", "forward", "pass", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "present", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Masking", ")", ",", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "for", "multilingual", "pre", "-", "training", ",", "using", "a", "special", "token", "[", "C", "]", "xto", "replace", "a", "random", "token", "xin", "the", "input", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "[", "C", "]", "xis", "a", "cross", "-", "lingual", "prototype", "for", "xand", "then", "forms", "an", "explicit", "cross-", "lingual", "forward", "pass", ".", "We", "instantiate", "CLPM", "for", "the", "multilingual", "pre", "-", "training", "phase", "of", "UNMT", "(", "unsupervised", "neural", "machine", "translation", ")", ",", "and", "experiments", "show", "that", "CLPM", "can", "consistently", "improve", "the", "performance", "of", "UNMT", "models", "on", "{", "De", ",", "Ro", ",", "Ne", "}", "↔", "En", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Beyond", "UNMT", "or", "bilingual", "tasks", ",", "we", "show", "that", "CLPM", "can", "consis-", "tently", "improve", "the", "performance", "of", "multilingual", "models", "on", "cross", "-", "lingual", "classification", "." ]

[ "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "1", "Introduction", "With", "tied", "weights", "across", "the", "languages", "and", "the", "help", "of", "language", "identifications", "(", "Johnson", "et", "al", ".", ",", "2017", ")", ",", "multilingual", "models", "only", "have", "access", "to", "monolin-", "gual", "corpora", "in", "different", "languages", ".", "Stemming", "from", "BERT", "/", "MLM", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "and", "GPT", "(", "Radford", "et", "al", ".", ",", "2018", ";", "Alec", "Radford", ",", "2020", ")", ",", "for", "cross", "-", "lingual", "knowledge", ",", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "on", "multiple", "monolin-", "gual", "corpora", "is", "introduced", "by", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "explored", "by", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", "and", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ";", "Lewis", "et", "al", ".", ",", "2020", ")", ",", "and", "scaled", "by", "XLM", "-", "R", "(", "Conneau", "et", "al", ".", ",", "2020", ")", "and", "mT5", "(", "Xue", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Essentially", ",", "in", "multilingual", "MLM", "pre", "-", "training", ",", "models", "are", "encouraged", "to", "learn", "implicit", "cross-", "linguality", "from", "both", "linguistic", "similarities", "and", "shared", "tokens", "(", "Karthikeyan", "et", "al", ".", ",", "2020", ";", "Wu", "and", "Dredze", ",", "2019", ";", "Pires", "et", "al", ".", ",", "2019", ";", "Dufter", "andSchütze", ",", "2020", ")", "for", "translation", "and", "cross", "-", "lingual", "transfer", "." ]

[ "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "it", "does", "not", "learn", "any", "explicit", "and", "principled", "cross", "-", "lingual", "forward", "pass", "from", "in-", "puts", "to", "outputs", ",", "only", "relying", "on", "the", "isomorphic", "space", "that", "emerged", "from", "multilingual", "MLM", "pre-", "training", "by", "overlapping", "language", "spaces", "agnosti-", "cally", ".", "Given", "the", "nature", "of", "translation", "and", "cross-", "lingual", "transfer", ",", "models", "should", "understand", "ex-", "plicit", "cross", "-", "lingual", "forward", "passes", "initiating", "cross-", "lingual", "knowledge", "directly", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Considering", "this", "aspect", ",", "beyond", "the", "implicit", "andagnostic", "cross", "-", "linguality", ",", "we", "are", "interested", "in", "the", "question", ":", "can", "models", "learn", "explicit", "andprincipled", "cross", "-", "linguality", "in", "multilin-", "gual", "pre", "-", "training", "without", "any", "supervision", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ "Following", "this", "idea", ",", "for", "multilingual", "pre", "-", "training", ",", "we", "present", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Mask-", "ing", ")", ",", "to", "compute", "a", "special", "token", "[", "C", "]", "xrepresenting", "a", "cross", "-", "lingual", "prototype", "for", "a", "selected", "token", "x", "and", "then", "replace", "xwith", "[", "C", "]", "xinstead", "of", "the", "stan-", "dard", "token", "[", "M", "]", "in", "multilingual", "MLM", "pre", "-", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "present", "an", "example", "in", "Table", "1", ".", "Significantly", ",", "when", "predicting", "the", "selected", "and", "replaced", "x", ",", "we", "model", "an", "explicit", "cross", "-", "lingual", "forward", "pass", "from", "the", "cross", "-", "lingual", "prototype", "[", "C", "]", "xtox", ".", "Source", "The", "investment", "fund", "that", "owned", "the", "building", "had", "to", "make", "a", "choice", ".", "[", "M", "]", "The", "[", "M", "]", "fund", "[", "M", "]", "owned", "[", "M", "]", "building", "[", "M", "]", "to", "make", "a", "choice", ".", "[", "C", "]", "x", "The", "[", "C", "]", "x1fund", "[", "C", "]", "x3owned", "[", "C", "]", "x5building", "[", "C", "]", "x7to", "make", "a", "choice", ".", "Table", "1", ":", "Examples", "of", "[", "C", "]", "xand", "[", "M", "]", ".", "{", "x1", ",", "x3", ",", "x5", ",", "x7", "}", "at", "position", "{", "1,3,5,7", "}", "are", "randomly", "selected", "for", "replacing", ".", "Then", ",", "we", "compute", "the", "[", "C", "]", "xset", "{", "[", "C", "]", "x1", ",", "[", "C", "]", "x3", ",", "[", "C", "]", "x5", ",", "[", "C", "]", "x7", "}", "for", "replacing", "and", "pre", "-", "train", "MLM", "without", "any", "other", "change", ",", "treating", "[", "C", "]", "xas", "[", "M", "]", ".", "In", "multilingual", "pre", "-", "training", ",", "computing", "[", "C", "]", "xis", "a", "challenge", "on", "multiple", "monolingual", "corpora", "with-", "out", "any", "supervision", "from", "parallel", "corpora", ",", "transla-", "tion", "tables", "(", "Dufter", "and", "Schütze", ",", "2020", ";", "Ren", "et", "al", ".", ",", "2019b", ";", "Chaudhary", "et", "al", ".", ",", "2020", ")", ",", "or", "data", "augmenta-", "tion", "processes", "(", "Krishnan", "et", "al", ".", ",", "2021", ";", "Chaudhary855", "et", "al", ".", ",", "2020", ";", "Tarunesh", "et", "al", ".", ",", "2021", ")", ".", "Fortunately", ",", "we", "find", "that", "suitable", "candidates", "can", "be", "dynamically", "obtained", "in", "the", "multilingual", "embedding", "space", ",", "con-", "sidering", "the", "relevance", "between", "the", "selected", "token", "and", "the", "tokens", "in", "the", "other", "language", ".", "Meanwhile", ",", "naive", "token", "-", "to", "-", "token", "relevance", "is", "reported", "to", "mis-", "represent", "morphological", "variations", "(", "Artetxe", "et", "al", ".", ",", "2020", ";", "Czarnowska", "et", "al", ".", ",", "2020", ";", "Kementchedjhieva", "et", "al", ".", ",", "2020", ")", ",", "which", "limits", "the", "improvements", "for", "translation", "and", "cross", "-", "lingual", "transfer", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Thus", ",", "we", "approximate", "multiple", "candidates", "in", "the", "other", "language", "for", "[", "C", "]", "x", ",", "expecting", "to", "cover", "morphologi-", "cal", "variations", ".", "Unfortunately", ",", "the", "input", "dependency", "is", "perturbed", "by", "[", "C", "]", "xbecause", "[", "C", "]", "xis", "not", "agnostic", "and", "not", "static", "as", "[", "M", "]", "but", "dynamically", "obtained", "from", "the", "other", "language", ".", "Eventually", ",", "it", "potentially", "results", "in", "a", "lack", "of", "learning", "internal", "structures", "of", "languages", ".", "To", "alleviate", "this", "pain", "but", "still", "use", "[", "C", "]", "x", ",", "we", "alternate", "between", "[", "M", "]", "and", "[", "C", "]", "x", ",", "where", "[", "M", "]", "is", "agnostic", "and", "does", "not", "perturb", "input", "language", "domain", ".", "We", "attempt", "UNMT", "and", "(", "zero", "-", "shot", ")", "cross", "-", "lingual", "transfer", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "For", "UNMT", ",", "we", "consider", "X↔En", "on", "a", "rich", "-", "resource", "language", "De", ",", "a", "low", "-", "resource", "language", "Ro", ",", "and", "a", "dissimilar", "language", "Ne", ".", "In-", "tuitively", ",", "CLPM", "yields", "improvements", "because", "of", "the", "dynamical", "approximations", "of", "token", "-", "level", "cross-", "lingual", "information", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "justify", "this", "on", "cross-", "lingual", "word", "similarity", "tasks", "from", "MUSE", "(", "Lam-", "ple", "et", "al", ".", ",", "2018b", ")", ".", "Beyond", "UNMT", ",", "we", "experiment", "with", "the", "cross", "-", "lingual", "classification", "task", "on", "XNLI", "(", "Conneau", "et", "al", ".", ",", "2018", ")", "to", "test", "general", "cross", "-", "lingual", "transfer", "CLPM", "improves", "within", "a", "pivoting", "-", "based", "framework.par", "We", "have", "three", "contributions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1", ")", "We", "present", "CLPM", ",", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", "using", "special", "tokens", "[", "C", "]", "x", ",", "to", "form", "cross-", "lingual", "forward", "passes", "in", "multilingual", "pre", "-", "training", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "[", "C", "]", "xis", "a", "generalized", "representation", "from", "multiple", "cross", "-", "lingual", "candidates", ".", "2", ")", "CLPM", "substantially", "improves", "the", "performance", "of", "X↔Enbaseline", "UNMT", "models", "by", "3", "%", "∼8", "%", "on", "rich", "-", "resource", "and", "low", "-", "resource", "languages", "and", "can", "facilitate", "training", "on", "dissimilar", "languages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", ")", "Beyond", "UNMT", "tasks", "or", "bilingual", "tasks", ",", "CLPM", "can", "be", "used", "for", "cross-", "lingual", "classification", "tasks", "." ]

[ "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "2", "Cross", "-", "lingual", "Prototype", "Masking", "Notation", "Lxis", "the", "language", "ID", "of", "language", "Lang", "x.", "Pnstands", "for", "positions", "." ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ERis", "the", "embed-", "ding", "for", "R.dis", "the", "model", "/", "embedding", "dimension.2.1", "Forward", "Pass", "in", "Attention", "Given", "an", "input", "sentence", "X=", "{", "x0", ",", "x1", ",", "...", ",", "x", "n", "}", "in", "the", "language", "Lang", "x", ",", "the", "self", "-", "attention", "layer", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "performs", "on", "the", "sum", "of", "Xinput", "=", "{", "Ex0+ELx+EP0", ",", "...", ",", "E", "xn+ELx+", "EPn", "}", ",", "which", "is", "considered", "in", "previous", "works", "of", "multilingual", "pre", "-", "training", "(", "Liu", "et", "al", ".", ",", "2020", ";", "Song", "et", "al", ".", ",", "2019", ";", "Lample", "and", "Conneau", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "pre-", "dicting", "xi", ",", "the", "attention", "score", "(", "Bahdanau", "et", "al", ".", ",", "2015", ";", "Luong", "et", "al", ".", ",", "2015", ")", "ei", ",", "j=", "(", "Exi+ELx+", "EPi", ")", "TWT", "qWk", "(", "Exj+ELx+EPj", ")", "between", "query", "vector", "qiand", "key", "vector", "kjwithin", "the", "same", "sen-", "tence", "can", "be", "decomposed", ":", "ei", ",", "j", "=", "ET", "xiWT", "qWkExj", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "a+", "ELx", "(", "·", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "b+EPi", "(", "·", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "c+EPj", "(", "·", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "d", "(", "1", ")", "where", "WqandWkare", "linear", "transformation", "for", "the", "query", "vector", "qiand", "key", "vector", "kjrespectively", ",", "andiandjstands", "for", "position", "indexes", ".", "Terms", "(", "b", ")", ",", "(", "c", ")", ",", "and", "(", "d", ")", "introduce", "the", "inductive", "bias", "towards", "language", "Lang", "x", ",", "position", "Pi", ",", "and", "position", "Pjre-", "spectively", ".", "When", "predicting", "xi", ",", "we", "have", "the", "for-", "ward", "pass", ":", "{", "xi", ",", "xj\\i", "}", "→xi", ",", "where", "xj\\idenotes", "all", "the", "tokens", "around", "position", "i", ",", "and", "the", "prediction", "of", "xiis", "conditioned", "by", "{", "xi", ",", "xj\\i", "}", ".", "The", "forward", "pass", "ismonolingual", "because", "both", "two", "sides", "are", "in", "the", "same", "language", ".", "In", "optimization", ",", "we", "can", "compute", "gradients", "from", "the", "backward", "pass", ":", "∂εxi", "∂Exiand∂εxi", "∂Exj", ",", "where", "εxiis", "the", "predicting", "error", ".", "2.2", "MLM", "with", "[", "M", "]", "and", "CBOW", "Suppose", "xiis", "randomly", "selected", "to", "be", "replaced", "by", "[", "M", "]", ".", "Term", "(", "a", ")", "is", "changed", "to", "ET", "[", "M", "]", "WT", "qWkExj", ".", "Since", "[", "M", "]", "does", "not", "provide", "prior", "information", "of", "xi", ",", "Term", "(", "a", ")", "forms", "a", "built", "-", "in", "CBOW1model", "(", "Continu-", "ous", "Bag", "-", "of", "-", "Words", "(", "Mikolov", "et", "al", ".", ",", "2013", ")", ")", "learning", "CBOW", "or", "bidirectional", "information", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ "The", "forward", "pass", "{", "[", "M", "]", ",", "xj\\i", "}", "→xiis", "still", "monolingual", "in", "mul-", "tilingual", "pre", "-", "training", "because", "[", "M", "]", "is", "shared", "and", "agnostic", "for", "all", "the", "languages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "the", "model", "is", "significantly", "encouraged", "to", "predict", "xiby", "under-", "standing", "neighboring", "tokens", "xj\\iin", "the", "sentence", ",", "i.e.", ",", "the", "surrounding", "context", "or", "bidirectional", "infor-", "mation", ".", "Moreover", ",", "since", "[", "M", "]", "is", "overlapping", "and", "1For", "instance", ",", "given", "X=", "{", "x0", ",", "[", "M", "]", ",", "x2", ",", "x3", "}", ",", "we", "have", "the", "forward", "pass", ":", "{", "xi=", "[", "M", "]", ",", "xj\\i=", "(", "x0", ",", "x1", ",", "x3", ")", "}", "→x2", "if", "predicting", "x2", ",", "where", "{", "xi=", "[", "M", "]", ",", "xj\\i=", "(", "x0", ",", "x1", ",", "x3", ")", "}", "models", "(", "non", "-", "standard", ")", "CBOW", "(", "4", "-", "gram", ")", ".856", "shared", ",", "and", "xj\\iare", "potentially", "overlapping", "tokens", "in", "different", "languages", ",", "it", "refines", "the", "morphology", "of", "different", "languages", "to", "overlap", "each", "other", "for", "form-", "ing", "the", "isomorphic", "spaces", "(", "Karthikeyan", "et", "al", ".", ",", "2020", ";", "Wu", "and", "Dredze", ",", "2019", ";", "Pires", "et", "al", ".", ",", "2019", ";", "Dufter", "and", "Schütze", ",", "2020", ")", "and", "leverages", "domain", "adaptation", "(", "Ganin", "et", "al", ".", ",", "2016", ")", "or", "language", "adaptation", "(", "Ai", "and", "Fang", ",", "2022b", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.3", "MLM", "with", "[", "C", "]", "x", "Although", "the", "forward", "pass", "{", "[", "M", "]", ",", "xj\\i", "}", "→xisig-", "nificantly", "enables", "the", "model", "to", "learn", "both", "cross-", "lingual", "and", "monolingual", "knowledge", "from", "the", "shared", "token", "[", "M", "]", "(", "Dufter", "and", "Schütze", ",", "2020", ")", "and", "structural", "information", "of", "the", "neighboring", "tokens", "xj\\i", "(", "Karthikeyan", "et", "al", ".", ",", "2020", ";", "Pires", "et", "al", ".", ",", "2019", ")", "in", "multilingual", "MLM", "pre", "-", "training", ",", "learning", "cross-", "linguality", "is", "implicit", "and", "limited", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "idea", "is", ",", "we", "can", "replace", "[", "M", "]", "withxi", "’s", "cross", "-", "lingual", "prototype", "[", "C", "]", "xithat", "we", "explicitly", "have", "a", "principled", "cross-", "lingual", "forward", "pass", ":", "{", "[", "C", "]", "xi", ",", "xj\\i", "}", "→", "xi", ".", "In", "this", "way", ",", "we", "inject", "weak", "but", "explicit", "cross", "-", "lingual", "super-", "vision", "into", "the", "model", "in", "multilingual", "pre", "-", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Therefore", ",", "we", "replace", "the", "selected", "xiwith", "its", "[", "C", "]", "xi", "instead", "of", "[", "M", "]", "as", "presented", "in", "the", "example", "(", "Table", "1", ")", ",", "and", "Term", "(", "a", ")", "is", "modified", "to", "ET", "[", "C", "]", "xiWT", "qWkExj", "accordingly", ".", "2.4", "On", "-", "the", "-", "fly", "[", "C", "]", "x", "To", "obtain", "[", "C", "]", "xiwithout", "any", "cross", "-", "lingual", "supervi-", "sion", "in", "multilingual", "pre", "-", "training", ",", "the", "starting", "point", "is", "the", "output", "distribution", "over", "the", "vocabulary", "V", "shared", "by", "all", "the", "languages", ".", "Given", "the", "multilin-", "gual", "model", "Net", ",", "we", "set", "Net", "tothe", "inference", "mode", ",", "not", "the", "MLM", "pre", "-", "training", "mode", ",", "and", "the", "proba-", "bility", "of", "xiis", "obtained", "from", "the", "softmax", "layer", "Qxi", "=", "exp", "(", "hT", "xi", "&", "LxOxi", ")", "/", "summationtextV", "k=1exp", "(", "hT", "xi", "&", "LxOxk", ")", ",", "where", "hxi", "&", "Lx∈", "Net", "(", "Ex+ELx", ")", "is", "the", "contextualized", "representa-", "tion", "of", "xi", ",", "Ex=", "{", "Ex0", ",", "Ex1", ",", ".", ".", ".", ",", "E", "xn", "}", "is", "the", "em-", "bedding", "of", "the", "input", "sentence", ",", "and", "Oxis", "factorized", "from", "the", "output", "matrix2O", ".", "Recall", "that", ",", "in", "Eq", ".", "1", ",", "the", "language", "embedding", "ELxof", "the", "language", "Lang", "x", "associated", "with", "the", "token", "xintroduces", "inductive", "bias", "towards", "Lang", "x", ",", "so", "that", "hxi", "&", "Lxis", "biased", "by", "ELxtowards", "Lang", "xand", "generalized", "from", "Exi", ".", "In", "this", "way", ",", "the", "output", "distribution", "over", "the", "vocab-", "ulary", "is", "biased", "by", "ELxtowards", "Lang", "x", ",", "and", "the", "dot", "-", "products", "distinguish", "relevant", "tokens", "from", "irrel-", "evant", "tokens", "for", "xi", ".", "Intuitively", ",", "we", "can", "fool", "the", "2Note", "that", ",", "in", "most", "of", "the", "cases", ",", "the", "output", "matrix", "shares", "all", "the", "parameters", "with", "the", "embedding", "matrix.model", "by", "inputting", "Ex+ELy3", ".", "The", "result", "is", "that", "hxi", "&", "Ly∈Net", "(", "Ex+ELy", ")", "is", "biased", "by", "ELyto-", "wards", "Lang", "ybut", "still", "generalized", "from", "Exi", ".", "We", "expect", "hxi", "&", "Lyto", "be", "an", "agnostic", "representation", "that", "is", "relevant", "to", "xiandLang", "y", ".", "Then", ",", "we", "can", "factorize", "Oyfrom", "the", "output", "matrix", "and", "rank", "the", "dot", "prod-", "ucthT", "xi", "&", "LyOyto", "search", "relevant", "tokens", "for", "xiin", "Lang", "yfrom", "the", "output", "space", ".", "We", "will", "discuss", "the", "inspiration", "later", ",", "and", "in", "our", "experiment", ",", "we", "show", "a", "case", "study", "that", "some", "useful", "candidates", "in", "the", "other", "language", "are", "obtained", ".", "We", "approximate", "a", "relevant", "candidate", "set", "PY", "xiin", "the", "other", "language", "Lang", "yand", "compute", "a", "weighted", "average", "of", "candidates", "’", "embeddings", ",", "where", "PY", "xicon-", "tributes", "to", "low", "variance", "and", "rich", "information", ".", "For-", "mally", ",", "we", "define", "E", "[", "C", "]", "xi=", "/", "summationtext", "y∈PYxiEyWy", "xi", ",", "where", "PY", "xi⊂V", "ocY", ",", "V", "ocYis", "the", "entries", "of", "the", "other", "lan-", "guage", "in", "the", "multilingual", "vocabulary", ",", "0≤Wy", "xi≤", "1is", "the", "weight", "of", "the", "candidate", "y∈PY", "xiand", "/", "summationtext", "y∈PYxiWy", "xi=", "1", ".", "Given", "the", "model", "Net", ",", "we", "have", "4", "steps", "to", "compute", "[", "C", "]", "xidynamically", ":", "•Step", "1", ":", "We", "set", "Net", "tothe", "inference", "mode", "˜Net", ",", "input", "Ex+ELyto˜Net", ",", "and", "obtain", "the", "representation", "hxi", "&", "Ly∈˜Net", "(", "Ex+ELy", ")", "for", "the", "selected", "token", "xi", ".", "•Step", "2", ":", "We", "factorize", "Oyfrom", "the", "output", "matrix", "Oand", "calculate", "a", "full", "-", "sized", "set", "Q=", "(", "hT", "xi", "&", "LyOy0", ",", "...", ",", "hT", "xi", "&", "LyOyv", ")", ",", "where", "vequals", "the", "size", "of", "V", "ocY", ".", "•Step", "3", ":", "We", "select", "a", "candidate", "set", "PY", "xi=", "(", "Eyj", ",", "...", ",", "Eyk", ")", "from", "the", "embedding", "space", ",", "ac-", "cording", "to", "the", "Top", "-", "K", "dot", "products", "in", "Q", ".", "•Step", "4", ":", "We", "compute", "the", "weight", "set", "Wy", "xi=", "softmax", "(", "ET", "yjEx", ",", "...", ",", "ET", "ykEx", ")", "and", "the", "final", "output", "E", "[", "C", "]", "xi=", "/", "summationtext", "y∈PYxiEyWy", "xi", ".", "Note", "that", ",", "multilingual", "models", "like", "XLM", "-", "R", "(", "Con-", "neau", "et", "al", ".", ",", "2020", ")", "do", "not", "require", "language", "embed-", "dings", ",", "i.e.", ",", "eliminating", "ELx", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "scenario", ",", "we", "can", "simply", "eliminate", "ELyinStep", "1", "without", "other", "modifications", ",", "and", "we", "still", "obtain", "cross", "-", "lingual", "can-", "didates", "over", "V", "ocYinStep", "2", "to", "compute", "the", "cross-", "lingual", "prototype", "for", "the", "selected", "token", "xi", ".", "To", "select", "tokens", "for", "V", "ocY", ",", "the", "minimum", "fre-", "quency", "is", "1e−5", "in", "the", "monolingual", "corpora", "of", "Lang", "y", ".", "Meanwhile", ",", "some", "tokens", "are", "shared", "among", "3Empirical", "studies", "and", "alternatives", "of", "Ex+ELxandEx", "’s", "nearest", "neighbors", "are", "presented", "in", "Appendix", "C.1.857", "different", "languages", ".", "We", "set", "the", "minimum", "frequency", "of", "shared", "tokens", "to", "1e−3", "in", "the", "monolingual", "cor-", "pora", ".", "These", "settings", "are", "used", "to", "limit", "the", "searching", "bound", "for", "more", "meaningful", "candidates", ".", "Inspiration", "Our", "recipe", "takes", "inspiration", "from", "early", "experiments", ".", "We", "pre", "-", "train", "a", "small", "multi-", "lingual", "model", "(", "12", "layers", "and", "256", "d", ")", "and", "use", "our", "recipe", "to", "search", "for", "candidates", ".", "As", "presented", "in", "Table", "2", ",", "a", "multilingual", "model", "can", "infer", "some", "cross-", "lingual", "candidates", "with", "our", "recipe", "because", "of", "the", "cross", "-", "lingual", "transfer", "phenomenon", ",", "and", "we", "can", "generalize", "these", "candidates", "for", "cross", "-", "lingual", "pro-", "totypes", ".", "Meanwhile", ",", "we", "are", "aware", "that", "the", "mul-", "tilingual", "model", "has", "to", "be", "pre", "-", "trained", "or", "properly", "initialized", "in", "order", "to", "infer", "cross", "-", "lingual", "candidates", "by", "itself", ".", "We", "will", "discuss", "initialization", "later", ".", "2.5", "Alternation", "between", "[", "M", "]", "and", "[", "C", "]", "x", "In", "our", "experiment", "(", "see", "row", "12∼15of", "Table", "7", "in", "Appendix", ")", ",", "we", "find", "that", "we", "can", "get", "bene-", "fits", "from", "alternating", "between", "[", "M", "]", "and", "[", "C", "]", "x", ".", "In-", "tuitively", ",", "only", "using", "[", "C", "]", "xmight", "perturb", "bidirec-", "tional", "knowledge", "and", "result", "in", "the", "lack", "of", "lan-", "guage", "knowledge", ",", "whereas", "the", "model", "can", "learn", "bidirectional", "information", "from", "using", "[", "M", "]", "in", "mul-", "tilingual", "MLM", "pre", "-", "training", ".", "We", "also", "note", "sim-", "ilar", "observations", "in", "previous", "works", "(", "Chaudhary", "et", "al", ".", ",", "2020", ";", "Ren", "et", "al", ".", ",", "2019a", ")", ",", "which", "use", "trans-", "lation", "tables", "for", "pre", "-", "training", ".", "Another", "side", "ef-", "fect", "we", "observe", "is", "that", "the", "model", "might", "pay", "more", "attention", "to", "\"", "prototype", "-", "word", "\"", "translation", "knowl-", "edge", "instead", "of", "understanding", "bidirectional", "knowl-", "edge", ".", "Thus", ",", "to", "encourage", "the", "model", "to", "learn", "both", "strong", "bidirectional", "knowledge", "from", "[", "M", "]", "and", "cross", "-", "lingual", "knowledge", "from", "[", "C", "]", "x", ",", "int", "%", "of", "the", "time", "of", "the", "MLM", "pre", "-", "training", "time", ",", "we", "use", "[", "C", "]", "xfor", "masking", ".", "For", "the", "remaining", "(", "100−t", ")", "%", "of", "the", "time", ",", "we", "still", "use", "[", "M", "]", ".", "Hence", ",", "we", "have", "dual", "objectives", "in", "multilingual", "MLM", "pre", "-", "training", ":", "LMLM", "=", "L", "[", "C", "]", "x+L", "[", "M", "]", ".", "With", "these", "dual", "objectives", "in", "mind", ",", "we", "can", "simply", "extend", "the", "MLM", "’s", "masking", "strategy", "to", ":", "(", "[", "SAME", "]", ",", "[", "RAN", "]", ",", "[", "M", "]", ",", "[", "C", "]", "x", ")", "with", "(", "10", "%", ",", "10", "%", ",", "(", "80−t", ")", "%", ",", "t", "%", ")", ".", "2.6", "Discussion", "We", "discuss", "some", "important", "components", "of", "our", "method", ".", "For", "these", "discussions", ",", "we", "provide", "em-", "pirical", "studies", "and", "show", "the", "observation", "of", "these", "components", "in", "§", "Robustness", "and", "Model", "Variation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "O" ]

[ "[", "M", "]", "vs.", "[", "C", "]", "x1", ")", "[", "M", "]", "is", "static", "in", "the", "embedding", "space", "with", "an", "explicit", "entry", ",", "used", "by", "running", "alookup", "operation", ".", "Meanwhile", ",", "it", "is", "used", "to", "replace", "all", "randomly", "selected", "tokens", ",", "which", "is", "unified", ".2", ")", "In", "contrast", ",", "[", "C", "]", "xiorE", "[", "C", "]", "xiis", "dynamically", "approxi-", "mated", "during", "training", ",", "which", "is", "token", "-", "wise", ".", "Choice", "of", "K", "The", "memory", "usage", "is", "proportional", "to", "the", "size", "of", "K", ".", "Meanwhile", ",", "large", "Kpotential", "increases", "noise", "for", "unambiguous", "[", "C", "]", "x.2", ")", "On", "the", "other", "hand", ",", "a", "small", "Kmay", "reduce", "the", "searching", "bound", "that", "computing", "proper", "[", "C", "]", "xis", "hard", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "K=", "1only", "yields", "median", "improvements", "in", "our", "experiment", "." ]

[ "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "empirical", "study", "shows", "that", "it", "is", "robust", "to", "a", "range", "of", "Kfrom", "2", "to", "5", ",", "considering", "a", "trade", "-", "off", "between", "GPU", "memory", "problems", "and", "expected", "performance", "improvements", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "I-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Initialization", "The", "random", "initialization", "may", "raise", "problems", ".", "1", ")", "xmay", "find", "some", "geometric", "close", "but", "irrelevant", "tokens", "with", "large", "dot", "products", "inV", "ocY", ",", "which", "results", "in", "a", "trivial", "candidate", "set", ".", "2", ")", "Theinference", "mode", "with", "random", "initialization", "is", "trivial", ".", "To", "this", "end", ",", "we", "only", "pre", "-", "train", "the", "multilin-", "gual", "model", "by", "MLM", "with", "[", "M", "]", "at", "the", "first", "several", "iterations", "for", "warm", "-", "up", "to", "form", "the", "multilingual", "em-", "bedding", "space", "and", "activate", "the", "inference", "mode", ",", "as", "discussed", "in", "§", "Inspiration", ".", "After", "the", "warm", "-", "up", ",", "the", "multilingual", "embedding", "space", "and", "the", "inference", "mode", "are", "initialized", "in", "a", "few", "-", "shot", "style", "somewhat", "to", "avoid", "trivial", "candidates", ".", "Then", ",", "we", "run", "the", "al-", "ternation", ".", "In", "our", "experiments", ",", "we", "find", "that", "this", "warm", "-", "up", "can", "help", "the", "model", "obtain", "new", "samples", "with", "cross", "-", "lingual", "prototypes", "from", "the", "other", "lan-", "guage", ".", "Efficiency", "On", "-", "the", "-", "fly", "[", "C", "]", "xwill", "increase", "the", "train-", "ing", "time", ".", "However", ",", "only", "a", "subset", "of", "tokens", "(", "typi-", "cally", ",", "15", "%", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ")", "of", "the", "input", "text", "stream", "is", "selected", "for", "masking", ",", "and", "we", "only", "need", "to", "compute", "[", "C", "]", "xfor", "a", "sub", "-", "set", "of", "all", "the", "selected", "tokens", ".", "In", "our", "experiment", ",", "we", "find", "our", "method", "spends", "additional", "≈15", "%", "time", "on", "training", ".", "Tokenization", "Tokenizations", "generating", "“", "middle", "\"", "tokens", ",", "sub", "-", "tokens", ",", "or", "non", "-", "standard", "word", "tokens", "might", "impact", "[", "C", "]", "x", ",", "e.g.", ",", "BPE", ".", "However", ",", "the", "impact", "is", "relatively", "small", "given", "that", ":", "1", ")", ":", "the", "vocabularies", "and", "monolingual", "corpora", "are", "dominant", "by", "the", "stan-", "dard", "words", "rather", "than", "non", "-", "standard", "word", "token", ",", "e.g.", ",", "over", "50", "%", "BPE", "vocabulary", "for", "translation", "task", "De↔En", ")", "are", "standard", "words", "and", "they", "make", "up", "for", "over", "the", "80", "%", "of", "the", "total", "token", "frequency", "in", "the", "monolingual", "corpora", ";", "2", ")", ":", "all", "the", "representations", "are", "contextualized", "that", "sub", "-", "tokens", "and", "non", "-", "standard858", "400k", "step", "training", "50k", "step", "training", "#", "1", "It", "was", "hampered", "by", "the", "need", "for", "ranges", "to", "be", "estimated", "by", "eye", ",", "which", "introduced", "significant", "in", "@", "@", "accuracy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "[", "EOS", "]", "Reference", "Erschwert", "wurde", "dies", "durch", "die", "Notwendigkeit", ",", "Entfernungen", "mit", "dem", "Auge", "abzuschätzen", ",", "was", "zu", "erheblichen", "Ungenauigkeiten", "führte", ".", "[", "EOS", "]", "Masked", "It", "[", "C", "]", "x1hampered", "[", "C", "]", "x3", "[", "C", "]", "x4need", "[", "C", "]", "x6ranges", "to", "[", "C", "]", "x9estimated", "by", "eye", ",", "which", "[", "C", "]", "x15significant", "[", "C", "]", "x17", "[", "C", "]", "x18", ".", "[", "EOS", "]", "was", "=", "[", "C", "]", "x1war", ",", "wurde", ",", "brach", ".", ",", "und", ",", "als", "by", "=", "[", "C", "]", "x3in", ",", ",", ",", "durch", "in", ",", "von", ",", ",", "the", "=", "[", "C", "]", "x4den", ",", "die", ",", "der", ".", ",", "den", ",", "einem", "for", "=", "[", "C", "]", "x6für", ",", "in", ",", "dafür", "in", ",", ".", ",", "und", "be", "=", "[", "C", "]", "x9des", ",", ",", ",", "ben", "stellt", ",", "Bau", ",", "einem", "introduced", "=", "[", "C", "]", "x15lehnte", ",", "Schwei", "@", "@", ",", "löste", "in", ",", "/", ",", "von", "in", "@", "@", "=", "[", "C", "]", "x17", "in", ",", "Gebäude", "@", "@", ",", "@", "-", "@", "in", ",", "(", ",", "@", "-", "@", "accuracy", "=", "[", "C", "]", "x18Seh", "@", "@", ",", "ographie", ",", "Bewertung", "geber", ",", "er", ",", "studium", "#", "2", "Sie", "befindet", "sich", "auf", "425", "Meter", "Höhe", "nahe", "dem", "Schlos", "@", "@", "sberg", ".", "[", "EOS", "]", "Reference", "It", "is", "located", "at", "an", "altitude", "of", "425", "meters", "near", "the", "Schlossberg", ".", "[", "EOS", "]", "Masked", "[", "C", "]", "x0", "[", "C", "]", "x1sich", "auf", "425", "[", "C", "]", "x5", "[", "C", "]", "x6", "[", "C", "]", "x7dem", "Schlos", "@", "@", "sberg", ".", "[", "EOS", "]", "Sie", "=", "[", "C", "]", "x0It", ",", "She", ",", "He", "leaves", ",", "breaks", ",", "Geography", "auf", "=", "[", "C", "]", "x4in", ",", "at", ",", "on", "the", ",", "a", ",", "29", "@", "@", "Meter", "=", "[", "C", "]", "x5metres", ",", "meters", ",", "feet", "@", "-", "@", ",", ",", ",", "in", "Höhe", "=", "[", "C", "]", "x6altitude", ",", "height", ",", "elevation", ",", ",", ",", "in", ",", "an", "nahe", "=", "[", "C", "]", "x7near", ",", "Near", ",", "close", "in", ",", "an", ",", ",", "Table", "2", ":", "Inspiration", "of", "[", "C", "]", "xfrom", "multilingual", "training", ".", "References", "are", "obtained", "from", "Google", "Translation", ".", "We", "use", "a", "pre", "-", "trained", "small", "XLM", "model", "on", "{", "En", ",", "De", "}", ".", "To", "obtain", "more", "examples", ",", "we", "randomly", "compute", "[", "C", "]", "xfor", "40", "%", "of", "tokens.", "@", "@", "is", "the", "continuing", "subword", "prefix", ".", "bold", "denotes", "a", "strong", "candidate", "that", "is", "a", "parallel", ",", "analogical", ",", "or", "relevant", "token", "/", "word", "(", "or", "its", "variation", ")", "in", "other", "languages", ".", "Our", "method", "can", "cover", "multiple", "morphological", "or", "relevant", "candidates", "(", "e.g.", ",", "<", "den", ",", "die", ",", "der", ">", "in", "#", "1", "[", "C", "]", "x4", ")", "for", "generalizing", "information", "by", "weighted", "average", ".", "word", "tokens", "still", "represent", "semantics", "and", "syntactic", "meanings", "related", "to", "their", "original", "standard", "words", "(", "refer", "to", "the", "case", "study", "in", "Appendix", "C.2", ")", ".", "3", "Empirical", "Study", "and", "Experiment", "All", "the", "links", "of", "datasets", ",", "libraries", ",", "scripts", ",", "and", "tools", "marked", "with", "⋄are", "listed", "in", "Appendix", "F", ".", "A", "preview", "version", "of", "the", "code", "is", "submitted", ",", "and", "we", "will", "open", "the", "source", "code", "on", "GitHub", ".", "Pre", "-", "training", "Setting", "We", "use", "Adam", "optimizer", "(", "Kingma", "and", "Ba", ",", "2015", ")", "with", "β1=", "0.9", ",", "β2=", "0.999", ",", "ϵ=", "1e−8", ",", "warm", "_", "upstep", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "andlr=", "1e−4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "Dropout", "regularization", "is", "set", "to", "rate", "=", "0.1", "." ]

[ "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O" ]

[ "Readers", "can", "refer", "to", "Appendix", "D.1", "for", "details", ".", "Model", "Configuration", "Our", "Transformer", "model", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "is", "identical", "to", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "which", "consists", "of", "a", "6", "-", "layer", "en-", "coder", "and", "6", "-", "layer", "decoder", "with", "1024", "word", "embed-", "ding", "size", "and", "hidden", "size", "and", "4096", "feed", "-", "forward", "filter", "size", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "add", "a", "learnable", "language", "embedding", "and", "a", "learnable", "position", "embedding", "to", "each", "token", "of", "the", "input", "sentence", "for", "the", "encoder", "and", "decoder", "(", "PandLin", "Eq.1", ")", ".", "We", "have", "some", "default", "configu-", "rations", "for", "our", "method", "based", "on", "the", "study", "of", "model", "robustness", "(", "see", "§", "Robustness", "and", "Model", "Variation", ")", ":", "1", ")", "t", "%", "=", "40", "%", "that", "we", "make", "a", "balance", "between", "the", "two", "objectives", ":", "[", "M", "]", "and", "[", "C", "]", "x", ";", "2", ")", "K=", "3", "that", "we", "consider", "top-3", "candidates", "for", "the", "cross", "-", "lingual", "prototypes", ";", "3", ")", "the", "warm", "-", "up", "step", "is", "50k", "that", "[", "M", "]", "is", "only", "used", "at", "the", "first", "50k", "iterations", ";", "4", ")", "we", "consider", "BPE", "for", "tokenization", "in", "all", "our", "experiments", ".", "Multilingual", "Task", "We", "consider", "three", "multilin-", "gual", "tasks", ":", "1", ")", "UNMT", "for", "evaluation", "on", "translation", "tasks", ",", "2", ")", "cross", "-", "lingual", "word", "similarity", "for", "evalua-", "tion", "on", "cross", "-", "lingual", "embedding", "tasks", ",", "and", "3", ")", "zero-", "shot", "cross", "-", "lingual", "classification", "for", "evaluation", "on", "cross", "-", "lingual", "transfer", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.1", "MLM", "Instance", "We", "adapt", "our", "method", "to", "three", "MLM", "instances", "to", "pre", "-", "train", "the", "multilingual", "model", ":", "1", ")", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "2", ")", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", ",", "and3", ")", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ")", ",", "which", "can", "be", "used", "to", "pre", "-", "train", "a", "multilingual", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Readers", "can", "refer", "to", "the", "original", "report", "or", "Appendix", "D.2", "for", "more", "instructions", "on", "these", "MLM", "instances", ".", "Sig-", "nificantly", ",", "to", "minimize", "changes", "for", "evaluation", "and", "comparison", ",", "we", "only", "have", "two", "changes", ".", "The", "first", "change", "we", "make", "is", "extending", "the", "masking", "strategy", ":", "(", "[", "SAME", "]", ",", "[", "RAN", "]", ",", "[", "M", "]", ")", "with", "(", "10", "%", ",", "10", "%", ",80", "%", ")", "to", "(", "[", "SAME", "]", ",", "[", "RAN", "]", ",", "[", "M", "]", ",", "[", "C", "]", "x", ")", "with", "(", "10", "%", ",", "10", "%", ",", "(", "80−t", ")", "%", ",", "t", "%", ")", ".", "Secondly", ",", "as", "presented", "in", "Table", "1", ",", "we", "only", "apply", "CLPM", "to", "the", "input", "of", "the", "source", "side", "or", "the", "encoder", "and", "do", "not", "change", "the", "shifted", "input", "of", "the", "decoder", "in", "these", "MLM", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Any", "other", "component", "is", "identical", "to", "the", "reported", "MLM", "instances", ".", "We", "reimplement", "all", "the", "baseline", "models", "on", "our", "machine", "with", "our", "configurations", ",", "using", "official", "XLM⋄", ",", "Tensor2Tensor", "⋄", ",", "and", "HuggingFace", "⋄as", "ref-", "erences", ".", "We", "compare", "the", "results", "of", "our", "reimple-", "mentation", "with", "the", "reported", "results", "on", "the", "same", "test", "set", "to", "ensure", "that", "the", "difference", "is", "less", "than", "2", "%", "in", "overall", "performance", "(", "see", "Appendix", "E", "for", "result859", "comparison", ")", ".", "Then", ",", "we", "can", "confirm", "our", "reimple-", "mentation", ".", "3.2", "UNMT", "Setup", "We", "consider", "similar", "language", "pairs", "{", "De", ",", "Ro", "}", "↔En", ",", "using", "the", "same", "dataset", "and", "test", "set", "as", "previous", "works", "(", "Lample", "and", "Conneau", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "we", "share", "the", "FLoRes", "⋄", "(", "Guzmán", "et", "al", ".", ",", "2019", ")", "task", "to", "evaluate", "a", "dissimilar", "language", "pair", "Ne↔English", "(", "Nepali", ")", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "learn", "shared", "BPE", "(", "Sennrich", "et", "al", ".", ",", "2016b", ")", ",", "selecting", "the", "most", "fre-", "quent", "60", "K", "codes", "from", "paired", "languages", "with", "the", "same", "criteria", "in", "Lample", "and", "Conneau", "(", "2019", ")", "." ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "model", "is", "pre", "-", "trained", "around", "400", "K", "iterations", "on", "only", "monolingual", "corpora", "in", "different", "languages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "I-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]