anlp/annotation1_wo_elimination · Datasets at Hugging Face

sentences sequence	ner_tags sequence
[ "Energy", "networks", "deﬁne", "an", "energy", "function", "over", "input", "/", "output", "pairs", "with", "arbitrary", "neural", "networks", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "advantageous", "in", "modeling", "complex", "and", "manifold", "event", "structures", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Lecun", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2006", ")", ";", "Belanger", "and", "McCallum", "(", "2016", ")", "associate", "a", "scalar", "measure", "to", "evaluate", "the", "compatibility", "to", "each", "conﬁguration", "of", "inputs", "and", "outputs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "Belanger", "and", "McCallum", ",", "2016", ")", "formulate", "deep", "energy", "-", "based", "models", "for", "structured", "prediction", ",", "called", "structured", "prediction", "energy", "networks", "(", "SPENs", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O" ]
[ "Belanger", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2017", ")", "present", "end", "-", "to", "-", "end", "learning", "for", "SPENs", ",", "Tu", "and", "Gimpel", "(", "2018", ")", "jointly", "train", "structured", "en-", "ergy", "functions", "and", "inference", "networks", "with", "large-", "margin", "objectives", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Some", "previous", "researches", "also", "regard", "event", "-", "centric", "NLP", "tasks", "as", "structured", "predic-", "tion", "(", "Li", "et", "al", ".", ",", "2013", ";", "Paolini", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further-", "more", ",", "to", "effectively", "obtain", "event", "representations", ",", "Deng", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2022", ")", "demonstrate", "that", "hyperspheri-", "cal", "prototypical", "networks", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "are", "powerful", "to", "encode", "enriched", "semantics", "and", "depen-", "dency", "in", "event", "structures", ",", "but", "they", "merely", "consider", "support", "for", "pairwise", "event", "structures.352", "3", "Methodology", "3.1", "Preliminaries", "For", "structured", "prediction", "tasks", ",", "given", "input", "x∈X", ",", "we", "denote", "the", "structured", "outputs", "by", "MΦ", "(", "x", ")", "∈˜Y", "with", "a", "prediction", "model", "MΦ", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Structured", "Prediction", "Energy", "Networks", "(", "SPENs", ")", "score", "structured", "outputs", "with", "an", "energy", "function", "EΘ", ":", "X×", "˜Y→Rparam-", "eterized", "by", "Θthat", "iteratively", "optimize", "the", "energy", "between", "the", "input", "/", "output", "pair", "(", "Belanger", "and", "Mc-", "Callum", ",", "2016", ")", ",", "where", "lower", "energy", "means", "greater", "compatibility", "between", "the", "pair", "." ]	[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "introduce", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "following", "the", "similar", "setting", "as", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "and", "sequence", "labeling", "pro-", "posed", "by", "Tu", "and", "Gimpel", "(", "2018", ")", "." ]	[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "a", "feature", "vector", "xbelonging", "to", "one", "of", "Tlabels", ",", "the", "model", "output", "isMΦ", "(", "x", ")", "=", "{", "0,1", "}", "T∈˜Yfor", "all", "x", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "energy", "function", "contains", "two", "terms", ":", "EΘ", "(", "x", ",", "y", ")", "=", "Elocal", "Θ", "(", "x", ",", "y", ")", "+", "Elabel", "Θ", "(", "y", ")", "=", "T", "/", "summationdisplay", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "+", "w", "/", "latticetopg", "(", "Wy", ")", "(", "1", ")", "whereElocal", "Θ", "(", "x", ",", "y", ")", "=", "/", "summationtextT", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "is", "the", "sum", "of", "linear", "models", ",", "and", "yi∈y", ",", "Viis", "a", "parameter", "vec-", "tor", "for", "label", "iandf", "(", "x", ")", "is", "a", "multi", "-", "layer", "perceptron", "computing", "a", "feature", "representation", "for", "the", "input", "x", ";", "Elabel", "Θ", "(", "y", ")", "=", "w", "/", "latticetopg", "(", "Wy", ")", "returns", "a", "scalar", "which", "quantiﬁes", "the", "full", "set", "of", "labels", ",", "scoring", "yindepen-", "dent", "of", "x", ",", "thereinto", ",", "wis", "a", "parameter", "vector", ",", "g", "(", "·", ")", "is", "an", "elementwise", "non", "-", "linearity", "function", ",", "and", "W", "is", "a", "parameter", "matrix", "learned", "from", "data", "indicating", "the", "interaction", "between", "labels", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "learning", "the", "energy", "function", ",", "prediction", "minimizes", "energy", ":", "˜y=", "arg", "min", "y∈˜YEΘ", "(", "x", ",", "y", ")", "(", "2", ")", "The", "ﬁnal", "theoretical", "optimum", "for", "SPEN", "is", "de-", "noted", "by", ":", "min", "Θmax", "Φ", "/", "summationdisplay", "/", "bracketleftbig", "/", "triangle", "(", "MΦ", "(", "xi", ")", ",", "yi", ")", "−", "EΘ", "(", "xi", ",", "MΦ", "(", "xi", ")", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "(", "3", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "and", "/", "triangle", "(", "˜y", ",", "y", ")", ",", "often", "re-", "ferred", "to", "“", "margin", "-", "rescaled", "”", "structured", "hinge", "loss", ",", "is", "a", "structured", "cost", "function", "that", "returns", "a", "nonneg-", "ative", "value", "indicating", "the", "difference", "between", "the", "predicted", "result", "˜yand", "ground", "truth", "y.3.2", "Problem", "Formulation", "In", "this", "paper", ",", "we", "focus", "on", "ECSP", "tasks", "of", "event", "de-", "tection", "(", "ED", ")", "and", "event", "-", "relation", "extraction", "(", "ERE", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O" ]
[ "ED", "can", "be", "divided", "into", "trigger", "classiﬁcation", "for", "to-", "kens", "and", "event", "classiﬁcation", "for", "sentences", "." ]	[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "denote", "the", "dataset", "by", "D=", "{", "E", ",", "R", ",", "X", "}", "contain-", "ing", "an", "event", "class", "set", "E", ",", "a", "multi", "-", "faceted", "event-", "relation", "setRand", "the", "event", "corpus", "X", ",", "thereinto", ",", "E=", "{", "ei\|i∈", "[", "1", ",", "\|E\|", "]", "}", "contains\|E\|event", "classes", "including", "a", "None", ";", "R=", "{", "ri\|i∈", "[", "1", ",", "\|R\|", "]", "}", "contains", "\|R\|temporal", ",", "causal", ",", "subevent", "and", "coreference", "re-", "lationships", "among", "event", "mentions", "including", "a", "NA", "event", "-", "relation", ";", "X=", "{", "Xi\|i∈", "[", "1", ",", "K", "]", "}", "consists", "of", "Kevent", "mentions", ",", "where", "Xiis", "denoted", "as", "a", "token", "sequence", "x=", "{", "xj\|j∈", "[", "1", ",", "L", "]", "}", "with", "maximum", "Ltokens", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "trigger", "classiﬁcation", ",", "the", "goal", "is", "to", "predict", "the", "index", "t", "(", "1≤t≤L", ")", "of", "the", "trigger", "xt", "in", "each", "token", "sequence", "xand", "categorize", "xtinto", "a", "speciﬁc", "event", "class", "ei∈E", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "event", "classiﬁca-", "tion", ",", "we", "expect", "to", "predict", "the", "event", "label", "eifor", "each", "event", "mention", "Xi", "." ]	[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "event", "-", "relation", "extraction", ",", "we", "require", "to", "identify", "the", "relation", "ri∈R", "for", "a", "pair", "of", "event", "mentions", "¨X", "/", "angbracketleftij", "/", "angbracketright=", "(", "Xi", ",", "Xj", ")", "." ]	[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "summary", ",", "our", "goal", "is", "to", "design", "an", "ECSP", "modelMΦ", ",", "aiming", "to", "tackle", "the", "tasks", "of", ":", "(", "1", ")", "trig-", "ger", "classiﬁcation", ":", "to", "predict", "the", "token", "label", "˜y=", "MΦ", "(", "x", ")", "for", "the", "token", "list", "x", ";", "(", "2", ")", "event", "classiﬁcation", ":", "to", "predict", "the", "event", "class", "label", "˜Y", "=", "MΦ", "(", "X", ")", "for", "the", "event", "mention", "X", ";", "(", "3", ")", "event", "-", "relation", "extraction", ":", "to", "predict", "the", "event", "-", "relation", "label", "˜z", "=", "MΦ", "(", "¨X", ")", "for", "the", "event", "mention", "pair", "¨X", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.3", "Model", "Overview", "As", "seen", "in", "Figure", "2", ",", "SPEECH", "combines", "three", "lev-", "els", "of", "energy", ":", "token", ",", "sentence", ",", "as", "well", "as", "docu-", "ment", ",", "and", "they", "respectively", "serve", "for", "three", "kinds", "of", "ECSP", "tasks", ":", "(", "1", ")", "token", "-", "level", "energy", "for", "trigger", "classiﬁcation", ":", "considering", "energy", "-", "based", "modeling", "is", "able", "to", "capture", "long", "-", "range", "dependency", "among", "tokens", "without", "limits", "to", "token", "size", ";", "(", "2", ")", "sentence-", "level", "energy", "for", "event", "classiﬁcation", ":", "considering", "energy", "-", "based", "hyperspheres", "can", "model", "the", "complex", "event", "structures", "and", "represent", "events", "efﬁciently", ";", "and", "(", "3", ")", "document", "-", "level", "energy", "for", "event", "-", "relation", "extraction", ":", "considering", "energy", "-", "based", "modeling", "en-", "ables", "us", "to", "address", "the", "association", "among", "event", "mention", "pairs", "and", "event", "-", "relations", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "leverage", "the", "trigger", "embeddings", "as", "event", "mention", "embeddings", ";", "the", "energy", "-", "based", "hyperspheres", "with", "a", "centroid", "and", "a", "radius", "as", "event", "class", "embeddings", ",", "and", "these", "three", "tasks", "are", "associative", "to", "each", "other.353", "KillingLegal_rulings", "Token", "-", "LevelEnergy", "Sentence", "-", "LevelEnergy", "Document", "-", "LevelEnergy", "[", "CLS", "]", "Davidwasconvictedto25yearsand9monthsinprisonforkillingGlover", "[", "SEP", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+12ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+2ℰ+2", "[", "CLS", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover", "[", "SEP", "]", "[", "PAD", "]", "[", "PAD", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+13ℰ+1ℰ+1ℰ+2ℰ+2ℰ+2ℰ+2", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "𝐶𝐴𝑈𝑆𝐸Energy", "-", "basedhypersphereembeddingwithacentroidandaradiusas", "event", "type", "embedding", "1to", "ℰ", ":", "event", "typesℰ+1", ":", "non", "-", "triggerℰ+2", ":", "padding", "…", "…", "…", "…", "…", "…", "…", "…", "Triggerembeddingas", "event", "mention", "embedding", "(", "Trigger", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "-", "Relation", "Extraction", ")", "Figure", "2", ":", "Overview", "of", "S", "PEECH", "with", "examples", ",", "where", "token", "-", "level", "energy", "serves", "for", "event", "trigger", "classiﬁcation", ",", "sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁcation", "and", "document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.4", "Token", "-", "Level", "Energy", "Token", "-", "level", "energy", "serves", "for", "trigger", "classiﬁcation", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "a", "token", "sequence", "x=", "{", "xj\|j∈", "[", "1", ",", "L", "]", "}", "with", "trigger", "xt", ",", "we", "leverage", "a", "pluggable", "backbone", "en-", "coder", "to", "obtain", "the", "contextual", "representation", "f1", "(", "x", ")", "for", "each", "token", ",", "such", "as", "pre", "-", "trained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ",", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "and", "so", "on", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "pre-", "dict", "the", "label", "˜y", "=", "MΦ", "(", "x", ")", "of", "each", "token", "with", "an", "additional", "linear", "classiﬁer", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Inspired", "by", "SPENs", "for", "sequence", "labeling", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "token", "classiﬁcation", "." ]	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Energy", "Function", "." ]	[ "O", "O", "O" ]
[ "The", "token", "-", "level", "energy", "func-", "tion", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "x", ",", "y", ")", "=", "−", "L", "/", "summationdisplay", "n=1\|E\|+2", "/", "summationdisplay", "i=1yi", "n", "/", "parenleftBig", "V", "/", "latticetop", "1", ",", "if1", "(", "xn", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+L", "/", "summationdisplay", "n=1y", "/", "latticetop", "n−1W1yn", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "4", ")", "whereyi", "nis", "theithentry", "of", "the", "vector", "yn∈y", ",", "indicating", "the", "probability", "of", "the", "nthtoken", "xnbe-", "ing", "labeled", "with", "i", "(", "iforei", ",", "\|E\|+1", "for", "non", "-", "trigger", "and\|E\|+2", "for", "padding", "token", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "f1", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "tokens", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Here", "our", "learnable", "pa-", "rameters", "are", "Θ", "=", "(", "V1", ",", "W1", ")", ",", "thereinto", ",", "V1", ",", "i∈Rd", "is", "a", "parameter", "vector", "for", "token", "label", "i", ",", "andW1∈", "R", "(", "\|E\|+2", ")", "×", "(", "\|E\|+2", ")", "contains", "the", "bilinear", "product", "be-", "tweenyn−1andynfor", "token", "label", "pair", "terms", "." ]	[ "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Loss", "Function", "." ]	[ "O", "O", "O" ]
[ "The", "training", "objective", "for", "trig-", "ger", "classiﬁcation", "is", "denoted", "by", ":", "Ltok=", "/", "summationdisplayL", "i=1", "/", "bracketleftbig", "/", "triangle", "(", "˜yi", ",", "yi", ")", "−EΘ", "(", "xi", ",", "˜yi", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "+", "µ1LCE", "(", "˜yi", ",", "yi", ")", "(", "5", ")", "where", "˜yiandyirespectively", "denote", "predicted", "re-", "sults", "and", "ground", "truth", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "ﬁrst", "half", "of", "Eq", "(", "5", ")", "is", "inherited", "from", "Eq", "(", "3", ")", "for", "the", "energy", "function", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜yi", ",", "yi", ")", "is", "the", "trigger", "classi-", "ﬁcation", "cross", "entropy", "loss", ",", "and", "µ1is", "its", "ratio", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.5", "Sentence", "-", "Level", "Energy", "Sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁca-", "tion", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "the", "event", "mention", "Xiwith", "the", "trig-", "gerxt", ",", "we", "utilize", "the", "trigger", "embedding", "f1", "(", "xt", ")", "as", "the", "event", "mention", "embedding", "f2", "(", "X", ")", ",", "where", "f2", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "event", "men-", "tions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "predict", "the", "class", "of", "each", "event", "men-", "tion", "with", "energy", "-", "based", "hyperspheres", ",", "denoted", "by", "˜Y", "=", "MΦ", "(", "X", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Speciﬁcally", ",", "we", "use", "an", "energy", "-", "based", "hyper-", "sphere", "to", "represent", "each", "event", "class", ",", "and", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "should", "distribute", "on", "the", "corresponding", "hypersphere", "with", "the", "lowest", "energy", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "calculate", "the", "probability", "of", "the", "event", "mention", "Xcategorizing", "into", "the", "class", "eiwith", "a", "hyperspherical", "measurement", "function", ":", "S", "(", "X", ",", "Pi", ")", "=", "exp−", "[", "/", "bardblPi−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "/", "summationtext\|E\|", "j=1exp−", "[", "/", "bardblPj−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "(", "6", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "Pidenotes", "the", "hyper-", "sphere", "centroid", "embedding", "of", "ei.", "/", "bardbl·", "/", "bardbl", "denotes", "the", "Euclidean", "distance", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "γis", "the", "radius", "of", "the", "hyper-", "sphere", ",", "which", "can", "be", "scalable", "or", "constant", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "sim-", "ply", "setγ=", "1", "in", "this", "paper", ",", "meaning", "that", "each", "event", "class", "is", "represented", "by", "a", "unit", "hypersphere", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Larger", "S", "(", "X", ",", "Pi", ")", "signiﬁes", "that", "the", "event", "mention", "Xare", "more", "likely", "be", "categorized", "into", "Picorresponding354", "toei", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "measure", "the", "energy", "score", "between", "event", "classes", "and", "event", "mentions", ",", "we", "also", "adopt", "an", "en-", "ergy", "function", "for", "event", "classiﬁcation", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Energy", "Function", "." ]	[ "O", "O", "O" ]
[ "The", "sentence", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "X", ",", "Y", ")", "=", "−", "\|E\|", "/", "summationdisplay", "i=1Yi", "/", "parenleftBig", "V", "/", "latticetop", "2", ",", "if2", "(", "X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "2g", "(", "W2Y", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "7", ")", "where", "Yi∈Yindicates", "the", "probability", "of", "the", "event", "mention", "Xbeing", "categorized", "to", "ei", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Here", "our", "learn-", "able", "parameters", "are", "Θ", "=", "(", "V2", ",", "w2", ",", "W2", ")", ",", "thereinto", ",", "V2", ",", "i∈Rdis", "a", "parameter", "vector", "for", "ei", ",", "w2∈R\|E\|", "andW2∈R\|E\|×\|E\|", "." ]	[ "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]
[ "Loss", "Function", "." ]	[ "O", "O", "O" ]
[ "The", "training", "objective", "for", "event", "classiﬁcation", "is", "denoted", "by", ":", "Lsen=", "/", "summationdisplayK", "i=1", "/", "bracketleftbig", "/", "triangle", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "−EΘ", "/", "parenleftBig", "Xi", ",", "˜Yi", "/", "parenrightBig", "+", "EΘ", "(", "Xi", ",", "Yi", ")", "/", "bracketrightbig", "+", "+", "µ2LCE", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "(", "8", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCEis", "a", "cross", "entropy", "loss", "for", "predicted", "results", "˜Yiand", "ground", "truth", "Yi.µ2is", "a", "ratio", "for", "event", "classiﬁcation", "cross", "entropy", "loss", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.6", "Document", "-", "Level", "Energy", "Document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "event", "mentions", "Xin", "each", "docu-", "ment", ",", "we", "model", "the", "embedding", "interactions", "of", "each", "event", "mention", "pair", "with", "a", "comprehensive", "feature", "vectorf3", "(", "¨X", "/", "angbracketleftij", "/", "angbracketright", ")", "=", "/", "bracketleftbig", "f2", "(", "Xi", ")", ",", "f2", "(", "Xj", ")", ",", "f2", "(", "Xi", ")", "⊙", "f2", "(", "Xj", ")", "/", "bracketrightbig", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "predict", "the", "relation", "between", "each", "event", "mention", "pair", "with", "a", "linear", "classiﬁer", ",", "de-", "noted", "by", "˜z", "=", "MΦ", "(", "¨X", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Inspired", "by", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "ERE", "." ]	[ "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "Energy", "Function", "." ]	[ "O", "O", "O" ]
[ "The", "document", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "¨X", ",", "z", ")", "=", "−", "\|R\|", "/", "summationdisplay", "i=1zi", "/", "parenleftBig", "V", "/", "latticetop", "3", ",", "if3", "(", "¨X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "3g", "(", "W3z", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "9", ")", "where", "zi∈zindicates", "the", "probability", "of", "the", "event", "mention", "pair", "¨Xhaving", "the", "relation", "of", "ri", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Here", "our", "learnable", "parameters", "are", "Θ", "=", "(", "V3", ",", "w3", ",", "W3", ")", ",", "thereinto", ",", "V3", ",", "i∈R3dis", "a", "parameter", "vector", "for", "ri", ",", "w3∈R\|R\|andW3∈R\|R\|×\|R\|.Loss", "Function", "." ]	[ "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]
[ "The", "training", "objective", "for", "event-", "relation", "extraction", "is", "denoted", "by", ":", "Ldoc=", "/", "summationdisplayN", "k=1", "/", "bracketleftBig", "/", "triangle", "(", "˜zk", ",", "zk", ")", "−EΘ", "/", "parenleftBig", "¨Xk", ",", "˜zk", "/", "parenrightBig", "+", "EΘ", "/", "parenleftBig", "¨Xk", ",", "zk", "/", "parenrightBig", "/", "bracketrightBig", "+", "+", "µ3LCE", "(", "˜zk", ",", "zk", ")", "(", "10", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜zk", ",", "zk", ")", "is", "the", "event", "-", "relation", "extraction", "cross", "entropy", "loss", ",", "µ3is", "its", "ratio", ",", "and", "N", "denotes", "the", "quantity", "of", "event", "mention", "pairs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Theﬁnal", "training", "loss", "forSPEECHMΦparam-", "eterized", "by", "Φis", "deﬁned", "as", ":", "L", "=", "λ1Ltok+λ2Lsen+λ3Ldoc+", "/", "bardblΦ", "/", "bardbl2", "2", "(", "11", ")", "whereλ1", ",", "λ2", ",", "λ3are", "the", "loss", "ratios", "respectively", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event", "-", "relation", "extraction", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "add", "the", "penalty", "term", "/", "bardblΦ", "/", "bardbl2", "2withL2regularization", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4", "Experiments", "The", "experiments", "refer", "to", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "and", "comprise", "three", "tasks", ":", "(", "1", ")", "Trigger", "Classiﬁcation", ";", "(", "2", ")", "Event", "Classiﬁcation", ";", "and", "(", "3", ")", "Event", "-", "Relation", "Extraction", "." ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "4.1", "Datasets", "and", "Baselines", "MAVEN", "-ERE", "ONTOEVENT", "-DOC", "#", "Document", "4,480", "4,115", "#", "Mention", "112,276", "60,546", "#", "Temporal", "1,216,217", "5,914", "#", "Causal", "57,992", "14,155", "#", "Subevent", "15,841", "/", "Table", "1", ":", "The", "statistics", "about", "M", "AVEN", "-EREand", "ONTOEVENT", "-DOCused", "in", "this", "paper", "." ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ "Datasets", "." ]	[ "O", "O" ]
[ "Considering", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", "require", "ﬁne", "-", "grained", "annotations", "for", "events", ",", "such", "as", "labels", "of", "tokens", ",", "event", "mentions", ",", "and", "event", "-", "relations", ",", "we", "select", "two", "newly", "-", "proposed", "datasets", "meeting", "the", "require-", "ments", ":", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", "and", "ONTOEVENT", "-DOC", "(", "Deng", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Note", "that", "ONTOEVENT", "-DOCis", "derived", "from", "ONTOEVENT", "(", "Deng", "et", "al", ".", ",", "2021", ")", "which", "is", "formatted", "in", "a", "sen-", "tence", "level", "." ]	[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "reorganize", "it", "and", "make", "it", "format", "in", "a", "document", "level", ",", "similar", "to", "MAVEN", "-ERE", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]
[ "Thus", "the", "train", ",", "validation", ",", "and", "test", "sets", "of", "ONTOEVENT", "-", "DOCare", "also", "different", "from", "the", "original", "ONTO-", "EVENT", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]
[ "We", "release", "the", "reconstructed", "dataset", "and355", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN†60.09±0.36", "60.34", "±0.45", "60.21", "±0.21", "50.42±0.99", "52.24", "±0.46", "51.31", "±0.39", "BiLSTM", "-", "CRF†61.30±1.07", "64.95", "±1.03", "63.06", "±0.23", "48.86±0.81", "55.91", "±0.56", "52.10", "±0.43", "DMBERT†56.79±0.54", "76.24", "±0.26", "65.09", "±0.32", "53.82±1.01", "66.12", "±1.02", "59.32", "±0.24", "BERT", "-", "CRF†62.79±0.34", "70.51", "±0.94", "65.73", "±0.57", "52.18±0.81", "62.31", "±0.45", "56.80", "±0.53", "MLBiNet‡63.50±0.57", "63.80", "±0.47", "63.60", "±0.52", "56.09±0.93", "57.67", "±0.81", "56.87", "±0.87", "TANL‡68.66±0.18", "63.79", "±0.19", "66.13", "±0.15", "57.73±0.65", "59.93", "±0.31", "59.13", "±0.52", "TEXT2EVENT‡59.91±0.83", "64.62", "±0.65", "62.16", "±0.25", "52.93±0.94", "62.27", "±0.49", "57.22", "±0.75", "CorED", "-", "BERT‡67.62±1.03", "69.49", "±0.63", "68.49", "±0.42", "60.27±0.55", "62.25", "±0.66", "61.25", "±0.19", "SPEECH", "78.82±0.82", "79.37±0.75", "79.09±0.82", "74.67±0.58", "74.73±0.62", "74.70±0.58", "w", "/", "o", "energy", "76.12±0.32", "76.66", "±0.25", "76.38", "±0.28", "71.76±0.38", "72.17", "±0.39", "71.96", "±0.38", "Table", "2", ":", "Performance", "(", "%", ")", "of", "trigger", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".†", ":", "re-", "sults", "are", "produced", "with", "codes", "referred", "to", "Wang", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020b", ")", ";", "‡", ":", "results", "are", "produced", "with", "ofﬁcial", "implementation", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Best", "results", "are", "marked", "in", "bold", ",", "and", "the", "second", "best", "results", "are", "underlined", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "code", "in", "Github1for", "reproduction", "." ]	[ "O", "O", "O", "O", "O" ]
[ "To", "simplify", "the", "experiment", "settings", ",", "we", "dismiss", "hierarchical", "rela-", "tions", "of", "ONTOEVENT", "and", "coreference", "relations", "of", "MAVEN", "-EREin", "this", "paper", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]
[ "More", "details", "of", "multi-", "faceted", "event", "-", "relations", "of", "these", "two", "datasets", "are", "introduced", "in", "Appendix", "A", "and", "Github", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "present", "the", "statistics", "about", "these", "two", "datasets", "in", "Table", "1", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "document", "quantity", "for", "train", "/", "valid", "/", "test", "set", "of", "MAVEN", "-EREandONTOEVENT", "are", "respectively", "2,913", "/", "710", "/", "857", ",", "and", "2,622", "/", "747", "/", "746", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Baselines", "." ]	[ "O", "O" ]
[ "For", "trigger", "classiﬁcation", "and", "event", "classiﬁcation", ",", "we", "adopt", "models", "aggregated", "dy-", "namic", "multi", "-", "pooling", "mechanism", ",", "i.e.", ",", "DMCNN", "(", "Chen", "et", "al", ".", ",", "2015", ")", "and", "DMBERT", "(", "Wang", "et", "al", ".", ",", "2019", ")", ";", "sequence", "labeling", "models", "with", "conditional", "random", "ﬁeld", "(", "CRF", ")", "(", "Lafferty", "et", "al", ".", ",", "2001", ")", ",", "i.e.", ",", "BiLSTM", "-", "CRF", "and", "BERT", "-", "CRF", ";", "generative", "ED", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "also", "adopt", "some", "ED", "models", "considering", "document", "-", "level", "as-", "sociations", ",", "i.e.", ",", "MLBiNet", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Besides", ",", "we", "compare", "our", "energy", "-", "based", "hyperspheres", "with", "the", "vanilla", "hyperspherical", "prototype", "network", "(", "HPN", ")", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "prototype", "-", "based", "model", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Note", "that", "unlike", "vanilla", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "which", "represents", "all", "classes", "on", "one", "hypersphere", ",", "the", "HPN", "adopted", "in", "this", "paper", "represents", "each", "class", "with", "a", "distinct", "hypersphere", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "event", "-", "relation", "extraction", ",", "we", "se-", "lect", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "which", "is", "the", "same", "baseline", "used", "in", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", ",", "and", "also", "serves", "as", "the", "backbone", "for", "most", "of", "recent", "ERE", "models", "(", "Hwang", "et", "al", ".", ",", "2022", ";", "Man", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "1https", ":", "/", "/", "github.com", "/", "zjunlp", "/", "SPEECH.4.2", "Implementation", "Details", "With", "regard", "to", "settings", "of", "the", "training", "process", ",", "Adam", "(", "Kingma", "and", "Ba", ",", "2015", ")", "optimizer", "is", "used", ",", "with", "the", "learning", "rate", "of", "5e-5", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "maximum", "length", "Lof", "a", "token", "sequence", "is", "128", ",", "and", "the", "maximum", "quantity", "of", "event", "mentions", "in", "one", "document", "is", "set", "to", "40", "for", "MAVEN", "-EREand", "50", "for", "ONTOEVENT", "-", "DOC", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]
[ "The", "loss", "ratios", ",", "µ1", ",", "µ2", ",", "µ3", ",", "for", "token", ",", "sen-", "tence", "and", "document", "-", "level", "energy", "function", "are", "all", "set", "to", "1", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "value", "of", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", ",", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event-", "relation", "extraction", "depends", "on", "different", "tasks", ",", "and", "we", "introduce", "them", "in", "Appendix", "B", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "evaluate", "the", "performance", "of", "ED", "and", "ERE", "with", "micro", "precision", "(", "P", ")", ",", "Recall", "(", "R", ")", "and", "F1", "Score", "(", "F1", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "O", "O" ]
[ "4.3", "Event", "Trigger", "Classiﬁcation", "We", "present", "details", "of", "event", "trigger", "classiﬁcation", "experiment", "settings", "in", "Appendix", "B.1", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "from", "the", "results", "in", "Table", "2", ",", "SPEECH", "demonstrates", "supe-", "rior", "performance", "over", "all", "baselines", ",", "notably", "MLBi-", "Net", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", ",", "even", "if", "these", "two", "models", "consider", "cross", "-", "sentence", "semantic", "information", "or", "incorpo-", "rate", "type", "-", "level", "and", "instance", "-", "level", "correlations", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "main", "reason", "may", "be", "due", "to", "the", "energy", "-", "based", "nature", "ofSPEECH", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "As", "seen", "from", "the", "last", "row", "of", "Table", "2", ",", "the", "removal", "of", "energy", "functions", "from", "SPEECH", "can", "result", "in", "a", "performance", "decrease", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "Speciﬁcally", "for", "trigger", "classiﬁcation", ",", "energy", "-", "based", "modeling", "en-", "ables", "capture", "long", "-", "range", "dependency", "of", "tokens", "and", "places", "no", "limits", "on", "the", "size", "of", "event", "structures", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "addition", ",", "SPEECH", "also", "excels", "generative", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", ",", "thereby", "demonstrating", "the", "efﬁcacy", "of", "energy", "-", "based", "modeling.356", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN", "61.74±0.32", "63.11", "±0.34", "62.42", "±0.15", "51.52±0.87", "52.84", "±0.61", "52.02", "±0.36", "DMBERT", "59.45±0.48", "77.77±0.21", "67.39", "±0.25", "57.06±1.04", "72.97±1.11", "65.03±0.45", "HPN", "62.80±0.72", "62.62", "±0.99", "62.71", "±0.85", "61.18±0.81", "60.88", "±0.79", "61.03", "±0.81", "OntoED", "67.82±1.70", "67.72", "±1.52", "67.77", "±1.61", "64.32±1.15", "64.16", "±1.31", "64.25", "±1.22", "TANL", "68.73±0.16", "65.65", "±0.63", "67.15", "±0.29", "60.34±0.71", "62.52", "±0.43", "61.42", "±0.51", "TEXT2EVENT", "61.14±0.80", "65.93", "±0.69", "63.44", "±0.19", "56.76±0.97", "66.78", "±0.48", "61.36", "±0.77", "SPEECH", "72.91±0.76", "72.81", "±0.76", "72.86±0.77", "58.92±0.96", "58.45", "±1.08", "58.69", "±1.40", "w", "/", "o", "energy", "71.22±0.58", "71.07", "±0.45", "71.12", "±0.45", "56.12±1.87", "55.69", "±1.66", "55.91", "±1.76", "Table", "3", ":", "Performance", "(", "%", ")", "of", "event", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "." ]	[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.4", "Event", "Classiﬁcation", "The", "speciﬁcs", "of", "event", "classiﬁcation", "experiment", "set-", "tings", "are", "elaborated", "in", "Appendix", "B.2", ",", "with", "results", "illustrated", "in", "Table", "3", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "can", "observe", "that", "SPEECH", "provides", "considerable", "advantages", "on", "MAVEN", "-ERE", ",", "while", "the", "performance", "on", "ONTOEVENT", "-DOCis", "not", "superior", "enough", "." ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ "ONTOEVENT", "-DOCcontains", "overlapping", "where", "multiple", "event", "classes", "may", "ex-", "ist", "in", "the", "same", "event", "mention", ",", "which", "could", "be", "the", "primary", "reason", "for", "SPEECH", "not", "performing", "well", "enough", "in", "this", "case", "." ]	[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "impact", "could", "be", "exacer-", "bated", "when", "joint", "training", "with", "other", "ECSP", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "Upon", "comparison", "with", "prototype", "-", "based", "methods", "without", "energy", "-", "based", "modeling", ",", "i.e.", ",", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", ",", "SPEECH", "is", "still", "dominant", "on", "MAVEN", "-ERE", ",", "despite", "HPN", "represents", "classes", "with", "hyperspheres", "and", "On-", "toED", "leverages", "hyperspheres", "integrated", "with", "event-", "relation", "semantics", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "If", "we", "exclude", "energy", "functions", "from", "SPEECH", ",", "performance", "will", "degrade", ",", "as", "seen", "from", "the", "last", "row", "in", "Table", "3", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "insight", "sug-", "gests", "that", "energy", "functions", "contribute", "positively", "to", "event", "classiﬁcation", ",", "which", "enable", "the", "model", "to", "directly", "capture", "complicated", "dependency", "be-", "tween", "event", "mentions", "and", "event", "types", ",", "instead", "of", "implicitly", "inferring", "from", "data", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Besides", ",", "SPEECH", "also", "outperforms", "generative", "models", "like", "TANL", "and", "TEXT2EVENT", "onMAVEN", "-ERE", ",", "indicating", "the", "su-", "periority", "of", "energy", "-", "based", "hyperspherical", "modeling", "." ]	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.5", "Event", "-", "Relation", "Extraction", "We", "present", "the", "speciﬁcs", "of", "event", "-", "relation", "extrac-", "tion", "experiment", "settings", "in", "Appendix", "B.3", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "from", "the", "results", "in", "Table", "4", ",", "SPEECH", "achieves", "dif-", "ferent", "performance", "across", "the", "two", "ERE", "datasets", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "OnONTOEVENT", "-DOCdataset", ",", "SPEECH", "observ-", "ably", "outperforms", "RoBERTa", "on", "all", "ERE", "sub-", "tasks", ",", "demonstrating", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "hyperspheres", ",", "so", "that", "SPEECH", "can", "capture", "the", "dependency", "among", "eventERE", "Task", "RoBERTa", "SPEECH", "TemporalMAVEN", "-ERE", "49.21±0.33", "39.64±0.79", "+", "joint", "49.91±0.58", "40.23±0.34", "ONTOEVENT", "-DOC", "37.68±0.47", "52.36±0.71", "+", "joint", "35.63±0.70", "65.69±0.39", "CausalMAVEN", "-ERE", "29.91±0.34", "16.28±0.53", "+", "joint", "29.03±0.91", "16.31±0.97", "ONTOEVENT", "-DOC", "35.48±1.77", "79.29±2.15", "+", "joint", "44.99±0.29", "67.76±1.28", "SubeventMAVEN", "-ERE", "19.80±0.44", "19.91±0.52", "+", "joint", "19.14±2.81", "21.96±1.24", "All", "JointMAVEN", "-ERE", "34.79±1.13", "37.85±0.72", "ONTOEVENT", "-DOC", "28.60±0.13", "54.19±2.28", "Table", "4", ":", "F1", "(", "%", ")", "performance", "of", "ERE", "on", "M", "AVEN", "-ERE", "valid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "." ]	[ "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Energy", "networks", "deﬁne", "an", "energy", "function", "over", "input", "/", "output", "pairs", "with", "arbitrary", "neural", "networks", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "advantageous", "in", "modeling", "complex", "and", "manifold", "event", "structures", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Lecun", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2006", ")", ";", "Belanger", "and", "McCallum", "(", "2016", ")", "associate", "a", "scalar", "measure", "to", "evaluate", "the", "compatibility", "to", "each", "conﬁguration", "of", "inputs", "and", "outputs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "Belanger", "and", "McCallum", ",", "2016", ")", "formulate", "deep", "energy", "-", "based", "models", "for", "structured", "prediction", ",", "called", "structured", "prediction", "energy", "networks", "(", "SPENs", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O" ]

[ "Belanger", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2017", ")", "present", "end", "-", "to", "-", "end", "learning", "for", "SPENs", ",", "Tu", "and", "Gimpel", "(", "2018", ")", "jointly", "train", "structured", "en-", "ergy", "functions", "and", "inference", "networks", "with", "large-", "margin", "objectives", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Some", "previous", "researches", "also", "regard", "event", "-", "centric", "NLP", "tasks", "as", "structured", "predic-", "tion", "(", "Li", "et", "al", ".", ",", "2013", ";", "Paolini", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further-", "more", ",", "to", "effectively", "obtain", "event", "representations", ",", "Deng", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2022", ")", "demonstrate", "that", "hyperspheri-", "cal", "prototypical", "networks", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "are", "powerful", "to", "encode", "enriched", "semantics", "and", "depen-", "dency", "in", "event", "structures", ",", "but", "they", "merely", "consider", "support", "for", "pairwise", "event", "structures.352", "3", "Methodology", "3.1", "Preliminaries", "For", "structured", "prediction", "tasks", ",", "given", "input", "x∈X", ",", "we", "denote", "the", "structured", "outputs", "by", "MΦ", "(", "x", ")", "∈˜Y", "with", "a", "prediction", "model", "MΦ", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Structured", "Prediction", "Energy", "Networks", "(", "SPENs", ")", "score", "structured", "outputs", "with", "an", "energy", "function", "EΘ", ":", "X×", "˜Y→Rparam-", "eterized", "by", "Θthat", "iteratively", "optimize", "the", "energy", "between", "the", "input", "/", "output", "pair", "(", "Belanger", "and", "Mc-", "Callum", ",", "2016", ")", ",", "where", "lower", "energy", "means", "greater", "compatibility", "between", "the", "pair", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "introduce", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "following", "the", "similar", "setting", "as", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "and", "sequence", "labeling", "pro-", "posed", "by", "Tu", "and", "Gimpel", "(", "2018", ")", "." ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "a", "feature", "vector", "xbelonging", "to", "one", "of", "Tlabels", ",", "the", "model", "output", "isMΦ", "(", "x", ")", "=", "{", "0,1", "}", "T∈˜Yfor", "all", "x", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "energy", "function", "contains", "two", "terms", ":", "EΘ", "(", "x", ",", "y", ")", "=", "Elocal", "Θ", "(", "x", ",", "y", ")", "+", "Elabel", "Θ", "(", "y", ")", "=", "T", "/", "summationdisplay", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "+", "w", "/", "latticetopg", "(", "Wy", ")", "(", "1", ")", "whereElocal", "Θ", "(", "x", ",", "y", ")", "=", "/", "summationtextT", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "is", "the", "sum", "of", "linear", "models", ",", "and", "yi∈y", ",", "Viis", "a", "parameter", "vec-", "tor", "for", "label", "iandf", "(", "x", ")", "is", "a", "multi", "-", "layer", "perceptron", "computing", "a", "feature", "representation", "for", "the", "input", "x", ";", "Elabel", "Θ", "(", "y", ")", "=", "w", "/", "latticetopg", "(", "Wy", ")", "returns", "a", "scalar", "which", "quantiﬁes", "the", "full", "set", "of", "labels", ",", "scoring", "yindepen-", "dent", "of", "x", ",", "thereinto", ",", "wis", "a", "parameter", "vector", ",", "g", "(", "·", ")", "is", "an", "elementwise", "non", "-", "linearity", "function", ",", "and", "W", "is", "a", "parameter", "matrix", "learned", "from", "data", "indicating", "the", "interaction", "between", "labels", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "learning", "the", "energy", "function", ",", "prediction", "minimizes", "energy", ":", "˜y=", "arg", "min", "y∈˜YEΘ", "(", "x", ",", "y", ")", "(", "2", ")", "The", "ﬁnal", "theoretical", "optimum", "for", "SPEN", "is", "de-", "noted", "by", ":", "min", "Θmax", "Φ", "/", "summationdisplay", "/", "bracketleftbig", "/", "triangle", "(", "MΦ", "(", "xi", ")", ",", "yi", ")", "−", "EΘ", "(", "xi", ",", "MΦ", "(", "xi", ")", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "(", "3", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "and", "/", "triangle", "(", "˜y", ",", "y", ")", ",", "often", "re-", "ferred", "to", "“", "margin", "-", "rescaled", "”", "structured", "hinge", "loss", ",", "is", "a", "structured", "cost", "function", "that", "returns", "a", "nonneg-", "ative", "value", "indicating", "the", "difference", "between", "the", "predicted", "result", "˜yand", "ground", "truth", "y.3.2", "Problem", "Formulation", "In", "this", "paper", ",", "we", "focus", "on", "ECSP", "tasks", "of", "event", "de-", "tection", "(", "ED", ")", "and", "event", "-", "relation", "extraction", "(", "ERE", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O" ]

[ "ED", "can", "be", "divided", "into", "trigger", "classiﬁcation", "for", "to-", "kens", "and", "event", "classiﬁcation", "for", "sentences", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "denote", "the", "dataset", "by", "D=", "{", "E", ",", "R", ",", "X", "}", "contain-", "ing", "an", "event", "class", "set", "E", ",", "a", "multi", "-", "faceted", "event-", "relation", "setRand", "the", "event", "corpus", "X", ",", "thereinto", ",", "E=", "{", "ei|i∈", "[", "1", ",", "|E|", "]", "}", "contains|E|event", "classes", "including", "a", "None", ";", "R=", "{", "ri|i∈", "[", "1", ",", "|R|", "]", "}", "contains", "|R|temporal", ",", "causal", ",", "subevent", "and", "coreference", "re-", "lationships", "among", "event", "mentions", "including", "a", "NA", "event", "-", "relation", ";", "X=", "{", "Xi|i∈", "[", "1", ",", "K", "]", "}", "consists", "of", "Kevent", "mentions", ",", "where", "Xiis", "denoted", "as", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "maximum", "Ltokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "trigger", "classiﬁcation", ",", "the", "goal", "is", "to", "predict", "the", "index", "t", "(", "1≤t≤L", ")", "of", "the", "trigger", "xt", "in", "each", "token", "sequence", "xand", "categorize", "xtinto", "a", "speciﬁc", "event", "class", "ei∈E", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "event", "classiﬁca-", "tion", ",", "we", "expect", "to", "predict", "the", "event", "label", "eifor", "each", "event", "mention", "Xi", "." ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "event", "-", "relation", "extraction", ",", "we", "require", "to", "identify", "the", "relation", "ri∈R", "for", "a", "pair", "of", "event", "mentions", "¨X", "/", "angbracketleftij", "/", "angbracketright=", "(", "Xi", ",", "Xj", ")", "." ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "summary", ",", "our", "goal", "is", "to", "design", "an", "ECSP", "modelMΦ", ",", "aiming", "to", "tackle", "the", "tasks", "of", ":", "(", "1", ")", "trig-", "ger", "classiﬁcation", ":", "to", "predict", "the", "token", "label", "˜y=", "MΦ", "(", "x", ")", "for", "the", "token", "list", "x", ";", "(", "2", ")", "event", "classiﬁcation", ":", "to", "predict", "the", "event", "class", "label", "˜Y", "=", "MΦ", "(", "X", ")", "for", "the", "event", "mention", "X", ";", "(", "3", ")", "event", "-", "relation", "extraction", ":", "to", "predict", "the", "event", "-", "relation", "label", "˜z", "=", "MΦ", "(", "¨X", ")", "for", "the", "event", "mention", "pair", "¨X", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.3", "Model", "Overview", "As", "seen", "in", "Figure", "2", ",", "SPEECH", "combines", "three", "lev-", "els", "of", "energy", ":", "token", ",", "sentence", ",", "as", "well", "as", "docu-", "ment", ",", "and", "they", "respectively", "serve", "for", "three", "kinds", "of", "ECSP", "tasks", ":", "(", "1", ")", "token", "-", "level", "energy", "for", "trigger", "classiﬁcation", ":", "considering", "energy", "-", "based", "modeling", "is", "able", "to", "capture", "long", "-", "range", "dependency", "among", "tokens", "without", "limits", "to", "token", "size", ";", "(", "2", ")", "sentence-", "level", "energy", "for", "event", "classiﬁcation", ":", "considering", "energy", "-", "based", "hyperspheres", "can", "model", "the", "complex", "event", "structures", "and", "represent", "events", "efﬁciently", ";", "and", "(", "3", ")", "document", "-", "level", "energy", "for", "event", "-", "relation", "extraction", ":", "considering", "energy", "-", "based", "modeling", "en-", "ables", "us", "to", "address", "the", "association", "among", "event", "mention", "pairs", "and", "event", "-", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "leverage", "the", "trigger", "embeddings", "as", "event", "mention", "embeddings", ";", "the", "energy", "-", "based", "hyperspheres", "with", "a", "centroid", "and", "a", "radius", "as", "event", "class", "embeddings", ",", "and", "these", "three", "tasks", "are", "associative", "to", "each", "other.353", "KillingLegal_rulings", "Token", "-", "LevelEnergy", "Sentence", "-", "LevelEnergy", "Document", "-", "LevelEnergy", "[", "CLS", "]", "Davidwasconvictedto25yearsand9monthsinprisonforkillingGlover", "[", "SEP", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+12ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+2ℰ+2", "[", "CLS", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover", "[", "SEP", "]", "[", "PAD", "]", "[", "PAD", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+13ℰ+1ℰ+1ℰ+2ℰ+2ℰ+2ℰ+2", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "𝐶𝐴𝑈𝑆𝐸Energy", "-", "basedhypersphereembeddingwithacentroidandaradiusas", "event", "type", "embedding", "1to", "ℰ", ":", "event", "typesℰ+1", ":", "non", "-", "triggerℰ+2", ":", "padding", "…", "…", "…", "…", "…", "…", "…", "…", "Triggerembeddingas", "event", "mention", "embedding", "(", "Trigger", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "-", "Relation", "Extraction", ")", "Figure", "2", ":", "Overview", "of", "S", "PEECH", "with", "examples", ",", "where", "token", "-", "level", "energy", "serves", "for", "event", "trigger", "classiﬁcation", ",", "sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁcation", "and", "document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.4", "Token", "-", "Level", "Energy", "Token", "-", "level", "energy", "serves", "for", "trigger", "classiﬁcation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "trigger", "xt", ",", "we", "leverage", "a", "pluggable", "backbone", "en-", "coder", "to", "obtain", "the", "contextual", "representation", "f1", "(", "x", ")", "for", "each", "token", ",", "such", "as", "pre", "-", "trained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ",", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "and", "so", "on", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "pre-", "dict", "the", "label", "˜y", "=", "MΦ", "(", "x", ")", "of", "each", "token", "with", "an", "additional", "linear", "classiﬁer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Inspired", "by", "SPENs", "for", "sequence", "labeling", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "token", "classiﬁcation", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Energy", "Function", "." ]

[ "O", "O", "O" ]

[ "The", "token", "-", "level", "energy", "func-", "tion", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "x", ",", "y", ")", "=", "−", "L", "/", "summationdisplay", "n=1|E|+2", "/", "summationdisplay", "i=1yi", "n", "/", "parenleftBig", "V", "/", "latticetop", "1", ",", "if1", "(", "xn", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+L", "/", "summationdisplay", "n=1y", "/", "latticetop", "n−1W1yn", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "4", ")", "whereyi", "nis", "theithentry", "of", "the", "vector", "yn∈y", ",", "indicating", "the", "probability", "of", "the", "nthtoken", "xnbe-", "ing", "labeled", "with", "i", "(", "iforei", ",", "|E|+1", "for", "non", "-", "trigger", "and|E|+2", "for", "padding", "token", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "f1", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "tokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "our", "learnable", "pa-", "rameters", "are", "Θ", "=", "(", "V1", ",", "W1", ")", ",", "thereinto", ",", "V1", ",", "i∈Rd", "is", "a", "parameter", "vector", "for", "token", "label", "i", ",", "andW1∈", "R", "(", "|E|+2", ")", "×", "(", "|E|+2", ")", "contains", "the", "bilinear", "product", "be-", "tweenyn−1andynfor", "token", "label", "pair", "terms", "." ]

[ "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Loss", "Function", "." ]

[ "O", "O", "O" ]

[ "The", "training", "objective", "for", "trig-", "ger", "classiﬁcation", "is", "denoted", "by", ":", "Ltok=", "/", "summationdisplayL", "i=1", "/", "bracketleftbig", "/", "triangle", "(", "˜yi", ",", "yi", ")", "−EΘ", "(", "xi", ",", "˜yi", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "+", "µ1LCE", "(", "˜yi", ",", "yi", ")", "(", "5", ")", "where", "˜yiandyirespectively", "denote", "predicted", "re-", "sults", "and", "ground", "truth", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "ﬁrst", "half", "of", "Eq", "(", "5", ")", "is", "inherited", "from", "Eq", "(", "3", ")", "for", "the", "energy", "function", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜yi", ",", "yi", ")", "is", "the", "trigger", "classi-", "ﬁcation", "cross", "entropy", "loss", ",", "and", "µ1is", "its", "ratio", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.5", "Sentence", "-", "Level", "Energy", "Sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁca-", "tion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "the", "event", "mention", "Xiwith", "the", "trig-", "gerxt", ",", "we", "utilize", "the", "trigger", "embedding", "f1", "(", "xt", ")", "as", "the", "event", "mention", "embedding", "f2", "(", "X", ")", ",", "where", "f2", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "event", "men-", "tions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "predict", "the", "class", "of", "each", "event", "men-", "tion", "with", "energy", "-", "based", "hyperspheres", ",", "denoted", "by", "˜Y", "=", "MΦ", "(", "X", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Speciﬁcally", ",", "we", "use", "an", "energy", "-", "based", "hyper-", "sphere", "to", "represent", "each", "event", "class", ",", "and", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "should", "distribute", "on", "the", "corresponding", "hypersphere", "with", "the", "lowest", "energy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "calculate", "the", "probability", "of", "the", "event", "mention", "Xcategorizing", "into", "the", "class", "eiwith", "a", "hyperspherical", "measurement", "function", ":", "S", "(", "X", ",", "Pi", ")", "=", "exp−", "[", "/", "bardblPi−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "/", "summationtext|E|", "j=1exp−", "[", "/", "bardblPj−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "(", "6", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "Pidenotes", "the", "hyper-", "sphere", "centroid", "embedding", "of", "ei.", "/", "bardbl·", "/", "bardbl", "denotes", "the", "Euclidean", "distance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "γis", "the", "radius", "of", "the", "hyper-", "sphere", ",", "which", "can", "be", "scalable", "or", "constant", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "sim-", "ply", "setγ=", "1", "in", "this", "paper", ",", "meaning", "that", "each", "event", "class", "is", "represented", "by", "a", "unit", "hypersphere", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Larger", "S", "(", "X", ",", "Pi", ")", "signiﬁes", "that", "the", "event", "mention", "Xare", "more", "likely", "be", "categorized", "into", "Picorresponding354", "toei", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "measure", "the", "energy", "score", "between", "event", "classes", "and", "event", "mentions", ",", "we", "also", "adopt", "an", "en-", "ergy", "function", "for", "event", "classiﬁcation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Energy", "Function", "." ]

[ "O", "O", "O" ]

[ "The", "sentence", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "X", ",", "Y", ")", "=", "−", "|E|", "/", "summationdisplay", "i=1Yi", "/", "parenleftBig", "V", "/", "latticetop", "2", ",", "if2", "(", "X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "2g", "(", "W2Y", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "7", ")", "where", "Yi∈Yindicates", "the", "probability", "of", "the", "event", "mention", "Xbeing", "categorized", "to", "ei", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "our", "learn-", "able", "parameters", "are", "Θ", "=", "(", "V2", ",", "w2", ",", "W2", ")", ",", "thereinto", ",", "V2", ",", "i∈Rdis", "a", "parameter", "vector", "for", "ei", ",", "w2∈R|E|", "andW2∈R|E|×|E|", "." ]

[ "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]

[ "Loss", "Function", "." ]

[ "O", "O", "O" ]

[ "The", "training", "objective", "for", "event", "classiﬁcation", "is", "denoted", "by", ":", "Lsen=", "/", "summationdisplayK", "i=1", "/", "bracketleftbig", "/", "triangle", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "−EΘ", "/", "parenleftBig", "Xi", ",", "˜Yi", "/", "parenrightBig", "+", "EΘ", "(", "Xi", ",", "Yi", ")", "/", "bracketrightbig", "+", "+", "µ2LCE", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "(", "8", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCEis", "a", "cross", "entropy", "loss", "for", "predicted", "results", "˜Yiand", "ground", "truth", "Yi.µ2is", "a", "ratio", "for", "event", "classiﬁcation", "cross", "entropy", "loss", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.6", "Document", "-", "Level", "Energy", "Document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "event", "mentions", "Xin", "each", "docu-", "ment", ",", "we", "model", "the", "embedding", "interactions", "of", "each", "event", "mention", "pair", "with", "a", "comprehensive", "feature", "vectorf3", "(", "¨X", "/", "angbracketleftij", "/", "angbracketright", ")", "=", "/", "bracketleftbig", "f2", "(", "Xi", ")", ",", "f2", "(", "Xj", ")", ",", "f2", "(", "Xi", ")", "⊙", "f2", "(", "Xj", ")", "/", "bracketrightbig", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "predict", "the", "relation", "between", "each", "event", "mention", "pair", "with", "a", "linear", "classiﬁer", ",", "de-", "noted", "by", "˜z", "=", "MΦ", "(", "¨X", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Inspired", "by", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "ERE", "." ]

[ "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Energy", "Function", "." ]

[ "O", "O", "O" ]

[ "The", "document", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "¨X", ",", "z", ")", "=", "−", "|R|", "/", "summationdisplay", "i=1zi", "/", "parenleftBig", "V", "/", "latticetop", "3", ",", "if3", "(", "¨X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "3g", "(", "W3z", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "9", ")", "where", "zi∈zindicates", "the", "probability", "of", "the", "event", "mention", "pair", "¨Xhaving", "the", "relation", "of", "ri", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "our", "learnable", "parameters", "are", "Θ", "=", "(", "V3", ",", "w3", ",", "W3", ")", ",", "thereinto", ",", "V3", ",", "i∈R3dis", "a", "parameter", "vector", "for", "ri", ",", "w3∈R|R|andW3∈R|R|×|R|.Loss", "Function", "." ]

[ "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]

[ "The", "training", "objective", "for", "event-", "relation", "extraction", "is", "denoted", "by", ":", "Ldoc=", "/", "summationdisplayN", "k=1", "/", "bracketleftBig", "/", "triangle", "(", "˜zk", ",", "zk", ")", "−EΘ", "/", "parenleftBig", "¨Xk", ",", "˜zk", "/", "parenrightBig", "+", "EΘ", "/", "parenleftBig", "¨Xk", ",", "zk", "/", "parenrightBig", "/", "bracketrightBig", "+", "+", "µ3LCE", "(", "˜zk", ",", "zk", ")", "(", "10", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜zk", ",", "zk", ")", "is", "the", "event", "-", "relation", "extraction", "cross", "entropy", "loss", ",", "µ3is", "its", "ratio", ",", "and", "N", "denotes", "the", "quantity", "of", "event", "mention", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Theﬁnal", "training", "loss", "forSPEECHMΦparam-", "eterized", "by", "Φis", "deﬁned", "as", ":", "L", "=", "λ1Ltok+λ2Lsen+λ3Ldoc+", "/", "bardblΦ", "/", "bardbl2", "2", "(", "11", ")", "whereλ1", ",", "λ2", ",", "λ3are", "the", "loss", "ratios", "respectively", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event", "-", "relation", "extraction", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "add", "the", "penalty", "term", "/", "bardblΦ", "/", "bardbl2", "2withL2regularization", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4", "Experiments", "The", "experiments", "refer", "to", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "and", "comprise", "three", "tasks", ":", "(", "1", ")", "Trigger", "Classiﬁcation", ";", "(", "2", ")", "Event", "Classiﬁcation", ";", "and", "(", "3", ")", "Event", "-", "Relation", "Extraction", "." ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "4.1", "Datasets", "and", "Baselines", "MAVEN", "-ERE", "ONTOEVENT", "-DOC", "#", "Document", "4,480", "4,115", "#", "Mention", "112,276", "60,546", "#", "Temporal", "1,216,217", "5,914", "#", "Causal", "57,992", "14,155", "#", "Subevent", "15,841", "/", "Table", "1", ":", "The", "statistics", "about", "M", "AVEN", "-EREand", "ONTOEVENT", "-DOCused", "in", "this", "paper", "." ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "Datasets", "." ]

[ "O", "O" ]

[ "Considering", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", "require", "ﬁne", "-", "grained", "annotations", "for", "events", ",", "such", "as", "labels", "of", "tokens", ",", "event", "mentions", ",", "and", "event", "-", "relations", ",", "we", "select", "two", "newly", "-", "proposed", "datasets", "meeting", "the", "require-", "ments", ":", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", "and", "ONTOEVENT", "-DOC", "(", "Deng", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "ONTOEVENT", "-DOCis", "derived", "from", "ONTOEVENT", "(", "Deng", "et", "al", ".", ",", "2021", ")", "which", "is", "formatted", "in", "a", "sen-", "tence", "level", "." ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "reorganize", "it", "and", "make", "it", "format", "in", "a", "document", "level", ",", "similar", "to", "MAVEN", "-ERE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "Thus", "the", "train", ",", "validation", ",", "and", "test", "sets", "of", "ONTOEVENT", "-", "DOCare", "also", "different", "from", "the", "original", "ONTO-", "EVENT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "We", "release", "the", "reconstructed", "dataset", "and355", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN†60.09±0.36", "60.34", "±0.45", "60.21", "±0.21", "50.42±0.99", "52.24", "±0.46", "51.31", "±0.39", "BiLSTM", "-", "CRF†61.30±1.07", "64.95", "±1.03", "63.06", "±0.23", "48.86±0.81", "55.91", "±0.56", "52.10", "±0.43", "DMBERT†56.79±0.54", "76.24", "±0.26", "65.09", "±0.32", "53.82±1.01", "66.12", "±1.02", "59.32", "±0.24", "BERT", "-", "CRF†62.79±0.34", "70.51", "±0.94", "65.73", "±0.57", "52.18±0.81", "62.31", "±0.45", "56.80", "±0.53", "MLBiNet‡63.50±0.57", "63.80", "±0.47", "63.60", "±0.52", "56.09±0.93", "57.67", "±0.81", "56.87", "±0.87", "TANL‡68.66±0.18", "63.79", "±0.19", "66.13", "±0.15", "57.73±0.65", "59.93", "±0.31", "59.13", "±0.52", "TEXT2EVENT‡59.91±0.83", "64.62", "±0.65", "62.16", "±0.25", "52.93±0.94", "62.27", "±0.49", "57.22", "±0.75", "CorED", "-", "BERT‡67.62±1.03", "69.49", "±0.63", "68.49", "±0.42", "60.27±0.55", "62.25", "±0.66", "61.25", "±0.19", "SPEECH", "78.82±0.82", "79.37±0.75", "79.09±0.82", "74.67±0.58", "74.73±0.62", "74.70±0.58", "w", "/", "o", "energy", "76.12±0.32", "76.66", "±0.25", "76.38", "±0.28", "71.76±0.38", "72.17", "±0.39", "71.96", "±0.38", "Table", "2", ":", "Performance", "(", "%", ")", "of", "trigger", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".†", ":", "re-", "sults", "are", "produced", "with", "codes", "referred", "to", "Wang", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020b", ")", ";", "‡", ":", "results", "are", "produced", "with", "ofﬁcial", "implementation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Best", "results", "are", "marked", "in", "bold", ",", "and", "the", "second", "best", "results", "are", "underlined", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "code", "in", "Github1for", "reproduction", "." ]

[ "O", "O", "O", "O", "O" ]

[ "To", "simplify", "the", "experiment", "settings", ",", "we", "dismiss", "hierarchical", "rela-", "tions", "of", "ONTOEVENT", "and", "coreference", "relations", "of", "MAVEN", "-EREin", "this", "paper", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]

[ "More", "details", "of", "multi-", "faceted", "event", "-", "relations", "of", "these", "two", "datasets", "are", "introduced", "in", "Appendix", "A", "and", "Github", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "present", "the", "statistics", "about", "these", "two", "datasets", "in", "Table", "1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "document", "quantity", "for", "train", "/", "valid", "/", "test", "set", "of", "MAVEN", "-EREandONTOEVENT", "are", "respectively", "2,913", "/", "710", "/", "857", ",", "and", "2,622", "/", "747", "/", "746", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", "." ]

[ "O", "O" ]

[ "For", "trigger", "classiﬁcation", "and", "event", "classiﬁcation", ",", "we", "adopt", "models", "aggregated", "dy-", "namic", "multi", "-", "pooling", "mechanism", ",", "i.e.", ",", "DMCNN", "(", "Chen", "et", "al", ".", ",", "2015", ")", "and", "DMBERT", "(", "Wang", "et", "al", ".", ",", "2019", ")", ";", "sequence", "labeling", "models", "with", "conditional", "random", "ﬁeld", "(", "CRF", ")", "(", "Lafferty", "et", "al", ".", ",", "2001", ")", ",", "i.e.", ",", "BiLSTM", "-", "CRF", "and", "BERT", "-", "CRF", ";", "generative", "ED", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "adopt", "some", "ED", "models", "considering", "document", "-", "level", "as-", "sociations", ",", "i.e.", ",", "MLBiNet", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Besides", ",", "we", "compare", "our", "energy", "-", "based", "hyperspheres", "with", "the", "vanilla", "hyperspherical", "prototype", "network", "(", "HPN", ")", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "prototype", "-", "based", "model", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "unlike", "vanilla", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "which", "represents", "all", "classes", "on", "one", "hypersphere", ",", "the", "HPN", "adopted", "in", "this", "paper", "represents", "each", "class", "with", "a", "distinct", "hypersphere", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "event", "-", "relation", "extraction", ",", "we", "se-", "lect", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "which", "is", "the", "same", "baseline", "used", "in", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", ",", "and", "also", "serves", "as", "the", "backbone", "for", "most", "of", "recent", "ERE", "models", "(", "Hwang", "et", "al", ".", ",", "2022", ";", "Man", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1https", ":", "/", "/", "github.com", "/", "zjunlp", "/", "SPEECH.4.2", "Implementation", "Details", "With", "regard", "to", "settings", "of", "the", "training", "process", ",", "Adam", "(", "Kingma", "and", "Ba", ",", "2015", ")", "optimizer", "is", "used", ",", "with", "the", "learning", "rate", "of", "5e-5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "maximum", "length", "Lof", "a", "token", "sequence", "is", "128", ",", "and", "the", "maximum", "quantity", "of", "event", "mentions", "in", "one", "document", "is", "set", "to", "40", "for", "MAVEN", "-EREand", "50", "for", "ONTOEVENT", "-", "DOC", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "The", "loss", "ratios", ",", "µ1", ",", "µ2", ",", "µ3", ",", "for", "token", ",", "sen-", "tence", "and", "document", "-", "level", "energy", "function", "are", "all", "set", "to", "1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "value", "of", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", ",", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event-", "relation", "extraction", "depends", "on", "different", "tasks", ",", "and", "we", "introduce", "them", "in", "Appendix", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "evaluate", "the", "performance", "of", "ED", "and", "ERE", "with", "micro", "precision", "(", "P", ")", ",", "Recall", "(", "R", ")", "and", "F1", "Score", "(", "F1", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "O", "O" ]

[ "4.3", "Event", "Trigger", "Classiﬁcation", "We", "present", "details", "of", "event", "trigger", "classiﬁcation", "experiment", "settings", "in", "Appendix", "B.1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "from", "the", "results", "in", "Table", "2", ",", "SPEECH", "demonstrates", "supe-", "rior", "performance", "over", "all", "baselines", ",", "notably", "MLBi-", "Net", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", ",", "even", "if", "these", "two", "models", "consider", "cross", "-", "sentence", "semantic", "information", "or", "incorpo-", "rate", "type", "-", "level", "and", "instance", "-", "level", "correlations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "main", "reason", "may", "be", "due", "to", "the", "energy", "-", "based", "nature", "ofSPEECH", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "As", "seen", "from", "the", "last", "row", "of", "Table", "2", ",", "the", "removal", "of", "energy", "functions", "from", "SPEECH", "can", "result", "in", "a", "performance", "decrease", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Speciﬁcally", "for", "trigger", "classiﬁcation", ",", "energy", "-", "based", "modeling", "en-", "ables", "capture", "long", "-", "range", "dependency", "of", "tokens", "and", "places", "no", "limits", "on", "the", "size", "of", "event", "structures", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", ",", "SPEECH", "also", "excels", "generative", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", ",", "thereby", "demonstrating", "the", "efﬁcacy", "of", "energy", "-", "based", "modeling.356", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN", "61.74±0.32", "63.11", "±0.34", "62.42", "±0.15", "51.52±0.87", "52.84", "±0.61", "52.02", "±0.36", "DMBERT", "59.45±0.48", "77.77±0.21", "67.39", "±0.25", "57.06±1.04", "72.97±1.11", "65.03±0.45", "HPN", "62.80±0.72", "62.62", "±0.99", "62.71", "±0.85", "61.18±0.81", "60.88", "±0.79", "61.03", "±0.81", "OntoED", "67.82±1.70", "67.72", "±1.52", "67.77", "±1.61", "64.32±1.15", "64.16", "±1.31", "64.25", "±1.22", "TANL", "68.73±0.16", "65.65", "±0.63", "67.15", "±0.29", "60.34±0.71", "62.52", "±0.43", "61.42", "±0.51", "TEXT2EVENT", "61.14±0.80", "65.93", "±0.69", "63.44", "±0.19", "56.76±0.97", "66.78", "±0.48", "61.36", "±0.77", "SPEECH", "72.91±0.76", "72.81", "±0.76", "72.86±0.77", "58.92±0.96", "58.45", "±1.08", "58.69", "±1.40", "w", "/", "o", "energy", "71.22±0.58", "71.07", "±0.45", "71.12", "±0.45", "56.12±1.87", "55.69", "±1.66", "55.91", "±1.76", "Table", "3", ":", "Performance", "(", "%", ")", "of", "event", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.4", "Event", "Classiﬁcation", "The", "speciﬁcs", "of", "event", "classiﬁcation", "experiment", "set-", "tings", "are", "elaborated", "in", "Appendix", "B.2", ",", "with", "results", "illustrated", "in", "Table", "3", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "can", "observe", "that", "SPEECH", "provides", "considerable", "advantages", "on", "MAVEN", "-ERE", ",", "while", "the", "performance", "on", "ONTOEVENT", "-DOCis", "not", "superior", "enough", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "ONTOEVENT", "-DOCcontains", "overlapping", "where", "multiple", "event", "classes", "may", "ex-", "ist", "in", "the", "same", "event", "mention", ",", "which", "could", "be", "the", "primary", "reason", "for", "SPEECH", "not", "performing", "well", "enough", "in", "this", "case", "." ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "impact", "could", "be", "exacer-", "bated", "when", "joint", "training", "with", "other", "ECSP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "Upon", "comparison", "with", "prototype", "-", "based", "methods", "without", "energy", "-", "based", "modeling", ",", "i.e.", ",", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", ",", "SPEECH", "is", "still", "dominant", "on", "MAVEN", "-ERE", ",", "despite", "HPN", "represents", "classes", "with", "hyperspheres", "and", "On-", "toED", "leverages", "hyperspheres", "integrated", "with", "event-", "relation", "semantics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "we", "exclude", "energy", "functions", "from", "SPEECH", ",", "performance", "will", "degrade", ",", "as", "seen", "from", "the", "last", "row", "in", "Table", "3", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "insight", "sug-", "gests", "that", "energy", "functions", "contribute", "positively", "to", "event", "classiﬁcation", ",", "which", "enable", "the", "model", "to", "directly", "capture", "complicated", "dependency", "be-", "tween", "event", "mentions", "and", "event", "types", ",", "instead", "of", "implicitly", "inferring", "from", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Besides", ",", "SPEECH", "also", "outperforms", "generative", "models", "like", "TANL", "and", "TEXT2EVENT", "onMAVEN", "-ERE", ",", "indicating", "the", "su-", "periority", "of", "energy", "-", "based", "hyperspherical", "modeling", "." ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Event", "-", "Relation", "Extraction", "We", "present", "the", "speciﬁcs", "of", "event", "-", "relation", "extrac-", "tion", "experiment", "settings", "in", "Appendix", "B.3", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "from", "the", "results", "in", "Table", "4", ",", "SPEECH", "achieves", "dif-", "ferent", "performance", "across", "the", "two", "ERE", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "OnONTOEVENT", "-DOCdataset", ",", "SPEECH", "observ-", "ably", "outperforms", "RoBERTa", "on", "all", "ERE", "sub-", "tasks", ",", "demonstrating", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "hyperspheres", ",", "so", "that", "SPEECH", "can", "capture", "the", "dependency", "among", "eventERE", "Task", "RoBERTa", "SPEECH", "TemporalMAVEN", "-ERE", "49.21±0.33", "39.64±0.79", "+", "joint", "49.91±0.58", "40.23±0.34", "ONTOEVENT", "-DOC", "37.68±0.47", "52.36±0.71", "+", "joint", "35.63±0.70", "65.69±0.39", "CausalMAVEN", "-ERE", "29.91±0.34", "16.28±0.53", "+", "joint", "29.03±0.91", "16.31±0.97", "ONTOEVENT", "-DOC", "35.48±1.77", "79.29±2.15", "+", "joint", "44.99±0.29", "67.76±1.28", "SubeventMAVEN", "-ERE", "19.80±0.44", "19.91±0.52", "+", "joint", "19.14±2.81", "21.96±1.24", "All", "JointMAVEN", "-ERE", "34.79±1.13", "37.85±0.72", "ONTOEVENT", "-DOC", "28.60±0.13", "54.19±2.28", "Table", "4", ":", "F1", "(", "%", ")", "performance", "of", "ERE", "on", "M", "AVEN", "-ERE", "valid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "." ]

[ "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]