Datasets:

anlp

/

sentence_w_elimination

like 0

[ "Additionally", ",", "all", "OpenIE", "training", "sets", "are", "weakly", "labeled", ",", "lead-", "ing", "to", "noisy", "labels", "which", "may", "limit", "the", "capabilities", "of", "neural", "OpenIE", "models", "For", "example", ",", "there", "areinstances", "in", "LSOIE", "where", "the", "gold", "relation", "does", "not", "contain", "a", "negation", "it", "should", ",", "resulting", "in", "a", "com-", "pletely", "different", "semantic", "meaning" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "is", "an", "open", "question", "of", "how", "much", "noise", "exists", "within", "these", "training", "sets", "3.2", "Benchmarks", "OIE2016", "(", "Stanovsky", "and", "Dagan", ",", "2016", ")", "is", "a", "bench-", "mark", "for", "OpenIE", "automatically", "derived", "from", "the", "crowdsourced", "QA", "-", "SRL", "dataset", "annotated", "on", "Prop-", "Bank", "and", "Wikipedia", "sentences" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "WiRe57", "(", "Léchelle", "et", "al", ",", "2018", ")", "consists", "of", "expert", "annotations", "for", "57", "sentences", "CaRB", "(", "Bhardwaj", "et", "al", ",", "2019", ")", "uses", "crowdsourcing", "to", "re", "-", "annotate", "the", "sentences", "in", "the", "OIE2016", "bench-", "mark" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O" ]

[ "ReOIE2016", "(", "Zhan", "and", "Zhao", ",", "2020", ")", "uses", "manual", "annotation", "to", "re", "-", "annotate", "OIE2016", "to", "attempt", "to", "resolve", "problems", "arising", "from", "incorrect", "extraction" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "LSOIE", "(", "Solawetz", "and", "Larson", ",", "2021", ")", "has", "bench-", "marks", "derived", "using", "the", "same", "sources", "and", "rules", "as", "the", "training", "sets", "BenchIE", "(", "Gashteovski", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "is", "derived", "from", "CaRB", "and", "is", "based", "on", "the", "idea", "that", "extracted", "rela-", "tions", "need", "to", "exactly", "match", "at", "least", "one", "relation", "out", "of", "a", "\"", "fact", "set", "\"", "of", "semantically", "equivalent", "manually", "annotated", "gold", "standard", "relations", "Are", "existing", "benchmarks", "sufficient", "?", "Given", "how", "the", "OIE2016", "benchmark", "has", "been", "re-", "annotated", "three", "times", ",", "there", "is", "no", "real", "consensus", "on", "how", "to", "annotate", "OpenIE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "CaRB", "labels", "prepositions", "as", "part", "of", "the", "object", "and", "not", "the", "predicate", ",", "but", "OIE2016", "and", "ReOIE2016", "do", "not" ]

[ "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O" ]

[ "As", "a", "result", ",", "it", "is", "very", "difficult", "for", "a", "single", "model", "to", "do", "well", "on", "all", "benchmarks", "because", "each", "one", "makes", "different", "assumptions", "Although", "there", "are", "common", "principles", "that", "guide", "OpenIE", "labeling", ",", "namely", "As-", "sertedness", ",", "Minimal", "Propositions", "/", "Atomicity", ",", "and", "Completeness", "and", "Open", "Lexicon", "(", "Stanovsky", "and", "Dagan", ",", "2016", ";", "Léchelle", "et", "al", ",", "2018", ";", "Bhardwaj", "et", "al", ",", "2019", ")", ",", "these", "principles", "are", "vague", "enough", "to", "be", "in-", "terpreted", "in", "different", "ways", "4", "Evaluation", "Metrics", "In", "this", "section", ",", "we", "describe", "the", "different", "evalua-", "tion", "metrics", "used", "to", "evaluate", "OpenIE", "models", "and", "discuss", "their", "shortcomings", "OIE2016", "introduces", "lexical", "matching", ",", "which", "treats", "evaluation", "as", "a", "binary", "classification", "task" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "pre-", "dicted", "relation", "is", "matched", "to", "a", "gold", "standard", "rela-", "tion", "if", "the", "heads", "of", "the", "predicate", "and", "all", "arguments932", "Model", "Problem", "Formulation", "N", "-", "ary", "IN", "SpanOIE", "Labeling", "✓", "IMoJIE", "Generation", "Multi2OIE", "Labeling", "✓", "IGL", "-", "OIE", "Labeling", "✓", "CIGL", "-", "OIE", "Labeling", "✓", "OpenIE6", "Labeling", "✓", "DetIE", "Labeling", "✓", "Table", "4", ":", "Comparison", "of", "neural", "OpenIE", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "are", "the", "same", "WiRe57", "and", "CaRB", "use", "word", "-", "level", "matching", ",", "which", "calculate", "recall", "and", "precision", "based", "on", "the", "proportion", "of", "matching", "tokens", "in", "the", "predicted", "and", "gold", "standard", "relations" ]

[ "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "WiRe57", "gives", "a", "greater", "penalty", "to", "recall", "than", "CaRB", "if", "there", "are", "fewer", "pre-", "dicted", "relations", "than", "gold", "standard", "relations" ]

[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "BenchIE", "uses", "sentence", "-", "level", "matching", ",", "which", "re-", "quires", "an", "exact", "match", "of", "the", "predicate", "and", "argu-", "ments", "to", "a", "relation", "in", "the", "fact", "set" ]

[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Because", "of", "BenchIE", "’s", "reliance", "on", "fact", "sets", "which", "other", "bench-", "marks", "lack", ",", "the", "BenchIE", "metric", "is", "only", "compatible", "with", "BenchIE", "and", "no", "other", "metrics", "can", "be", "used", "with", "the", "BenchIE", "dataset" ]

[ "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "As", "a", "result", ",", "an", "apples-", "to", "-", "apples", "comparison", "of", "the", "BenchIE", "dataset", "and", "metric", "with", "other", "datasets", "and", "metrics", "is", "not", "possi-", "ble", ",", "so", "we", "do", "not", "report", "performance", "on", "BenchIE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName" ]

[ "Is", "AUC", "a", "useful", "metric", "?" ]

[ "O", "B-MetricName", "O", "O", "O", "O" ]

[ "When", "comparing", "OpenIE", "systems", ",", "we", "place", "a", "greater", "emphasis", "on", "F1", "score", "than", "AUC" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName" ]

[ "The", "original", "implementations", "of", "CaRB", ",", "OIE2016", ",", "and", "WiRe57", "use", "the", "trapezoidal", "rule", "to", "calculate", "AUC", "which", "leads", "to", "inflated", "AUC", "scores", "for", "certain", "sys-", "tems", "without", "low", "recall", "points" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "result", ",", "we", "consider", "the", "highest", "F1", "score", "on", "the", "PR", "curve", "to", "be", "a", "better", "metric", "than", "AUC" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "Are", "existing", "metrics", "sufficient", "?", "All", "existing", "OpenIE", "metrics", "are", "lexical", "metrics", ",", "and", "lexical", "metrics", "are", "merely", "a", "proxy", "for", "comparing", "the", "semantic", "meanings", "of", "the", "predicted", "relations", "with", "the", "gold", "standard", "relations" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "ex-", "isting", "OpenIE", "metrics", "only", "give", "small", "penalties", "for", "omitting", "negations", "from", "predicted", "relations", ",", "even", "though", "this", "changes", "the", "semantic", "meaning", "This", "issue", "can", "be", "also", "observed", "in", "lexical", "metrics", "used", "for", "summarization", "(", "Saadany", "and", "Orasan", ",", "2021", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Neural", "OpenIE", "Models", "In", "this", "section", ",", "we", "describe", "neural", "OpenIE", "models", "and", "the", "properties", "and", "assumptions", "they", "make", "thatset", "them", "apart", "Neural", "OpenIE", "models", "can", "be", "cate-", "gorized", "based", "on", "how", "they", "formulate", "the", "OpenIE", "problem", ":", "as", "a", "text", "generation", "or", "labeling", "problem", "We", "provide", "overviews", "of", "the", "models", "in", "Table", "4", "5.1", "Generative", "Problem", "Formulation", "Generative", "OpenIE", "models", "cast", "OpenIE", "as", "a", "sequence", "-", "to", "-", "sequence", "problem", ",", "taking", "the", "sentence", "as", "input", "and", "attempting", "to", "generate", "all", "relations", "in", "the", "sentence", "as", "output", "The", "generative", "models", "we", "survey", "rely", "on", "a", "copy", "mechanism", "to", "copy", "vocabu-", "lary", "from", "the", "original", "sentence", ",", "meaning", "they", "can", "not", "extract", "INrelations", "CopyAttention", "(", "Cui", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2018", ")", "generates", "ex-", "tractions", "using", "GloVe", "embeddings", "and", "a", "3", "-", "layer", "stacked", "Long", "Short", "-", "Term", "Memory", "(", "LSTM", ")", "as", "the", "encoder", "and", "decoder", "IMoJIE", "(", "Kolluru", "et", "al", ",", "2020b", ")", "builds", "upon", "Copy-", "Attention", "by", "using", "BERT", "embeddings", "and", "intro-", "ducing", "iterative", "extraction", "to", "combat", "repeated", "ex-", "tractions", "Iterative", "extraction", "is", "repeated", "extraction", "from", "the", "same", "sentence", "with", "previously", "extracted", "relations", "appended", "to", "the", "end", "so", "the", "model", "can", "identify", "what", "relations", "have", "previously", "been", "ex-", "tracted" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.2", "Labeling", "Problem", "Formulation", "Labeling", "OpenIE", "models", "cast", "OpenIE", "as", "a", "se-", "quence", "labeling", "problem", ",", "usually", "using", "a", "BIO", "tag-", "ging", "scheme", "to", "label", "tokens", "in", "the", "sentence", "They", "can", "be", "subdivided", "into", "Piecewise", "and", "Holistic", "La-", "beling", "models", "5.2.1", "Piecewise", "Labeling", "Piecewise", "labeling", "models", "first", "label", "predicates", "and", "then", "label", "arguments", "for", "each", "extracted", "predicate", "to", "extract", "relation", "tuples", "RnnOIE", "(", "Stanovsky", "et", "al", ",", "2018", ")", "is", "a", "bi", "-", "directional", "LSTM", "(", "BiLSTM", ")", "transducer", "inspired", "by", "SRL", "that", "uses", "BIO", "tags", "SpanOIE", "(", "Zhan", "and", "Zhao", ",", "2020", ")", "is", "also", "based", "on", "SRL", ",", "using", "a", "BiLSTM", "to", "perform", "span", "classifica-", "tion", "instead", "of", "BIO", "tagging", "In", "span", "classification", ",", "spans", "of", "tokens", "of", "varying", "length", "are", "classified", "as", "parts", "of", "the", "relation", "instead", "of", "individual", "tokens" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Span", "classification", "allows", "for", "the", "use", "of", "span", "fea-", "tures", ",", "which", "can", "be", "richer", "than", "word", "-", "level", "features", "Multi2OIE", "’s", "(", "Ro", "et", "al", ",", "2020", ")", "novelty", "is", "multi-", "head", "attention", "and", "BERT", "embeddings", "After", "la-", "beling", "the", "predicates", ",", "multi", "-", "head", "attention", "is", "used", "between", "the", "predicate", "and", "the", "rest", "of", "the", "sentence", "to", "label", "the", "arguments.933", "MILIE", "(", "Kotnis", "et", "al", ",", "2021", ")", "introduces", "iterative", "prediction", ",", "the", "process", "of", "extracting", "one", "argument", "of", "the", "relation", "tuple", "at", "a", "time", ",", "for", "multilingual", "Ope-", "nIE", "Extraction", "can", "be", "performed", "predicate", ",", "subject", ",", "or", "object", "first", ",", "in", "case", "other", "languages", "benefit", "from", "different", "extraction", "orders", "Uniquely", ",", "piecewise", "labeling", "models", "label", "all", "predicates", "in", "a", "sentence", "simultaneously", "and", "assume", "that", "for", "each", "predicate", ",", "there", "is", "only", "one", "set", "of", "arguments" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "means", "that", "they", "can", "not", "extract", "multiple", "relations", "that", "share", "the", "same", "predicate", ",", "unlike", "generative", "and", "holistic", "labeling", "models", "5.2.2", "Holistic", "Labeling", "Holistic", "labeling", "models", "label", "predicates", "and", "argu-", "ments", "simultaneously", "OpenIE6", "(", "Kolluru", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2020a", ")", "introduces", "grid", "labeling", ",", "constraint", "rules", ",", "and", "conjunction", "rules", "Grid", "labeling", "is", "the", "simultaneous", "extraction", "of", "mul-", "tiple", "relations", "from", "a", "sentence", "Constraint", "rules", "penalize", "certain", "things", "like", "repeated", "extractions", "or", "not", "extracting", "a", "relation", "for", "a", "head", "verb", "Conjunc-", "tion", "rules", "split", "relations", "containing", "conjunctions", "into", "two", "separate", "relations", "IGL", "-", "OIE", "is", "the", "first", "stage", ",", "using", "only", "grid", "labeling", ";", "CIGL", "-", "OIE", "is", "the", "second", "stage", ",", "adding", "in", "constraint", "rules", ";", "OpenIE6", "is", "the", "final", "stage", ",", "adding", "conjunction", "rules", "DetIE", "(", "Vasilkovsky", "et", "al", ",", "2022", ")", "uses", "ideas", "from", "single", "-", "shot", "object", "detection", "to", "make", "predictions", "more", "quickly", "than", "previous", "methods", "Labeling", "models", "generally", "can", "not", "label", "tokens", "that", "are", "not", "in", "the", "original", "sentence", ",", "meaning", "they", "can", "not", "ex-", "tract", "INrelations", "However", ",", "the", "more", "recent", "mod-", "els", "IGL", "-", "OIE", ",", "CIGL", "-", "OIE", ",", "OpenIE6", ",", "and", "DetIE", "ex-", "plicitly", "add", "\"", "be", "\"", ",", "\"", "of", "\"", ",", "and", "\"", "from", "\"", "to", "the", "end", "of", "sentences", "to", "allow", "for", "the", "extraction", "of", "inferred", "relations", "with", "those", "predicates", "5.3", "Model", "Hyperparameters", "The", "sensitivity", "to", "hyperparameters", "of", "the", "models", "we", "survey", "is", "unclear", "Of", "the", "works", "we", "survey", ",", "Multi2OIE", "and", "OpenIE6", "describe", "how", "they", "per-", "form", "hyperparameter", "tuning", "and", "provide", "the", "hy-", "perparameters", "they", "tested", "SpanOIE", ",", "IMoJIE", ",", "and", "DetIE", "do", "not", "provide", "details", "of", "how", "they", "obtained", "the", "hyperparameters", "they", "use", "None", "of", "these", "works", "provide", "an", "in", "-", "depth", "analysis", "of", "how", "the", "perfor-", "mance", "was", "affected", "by", "different", "hyperparameter", "values", "As", "a", "result", ",", "we", "perform", "our", "own", "sensitiv-", "ity", "analysis", "using", "Multi2OIE", "The", "results", "of", "this", "analysis", "can", "be", "found", "in", "Appendix", "B", "In", "our", "own", "experiments", ",", "we", "observed", "only", "minorincreases", "in", "performance", "from", "changing", "the", "hyper-", "parameters", "in", "a", "few", "cases", "On", "average", ",", "the", "per-", "formance", "changes", "were", "negligible", "When", "making", "recommendations", ",", "we", "consider", "the", "performance", "over", "many", "different", "combinations", "of", "model", ",", "train-", "ing", ",", "and", "test", "set", "Minor", "differences", "in", "a", "handful", "of", "cases", "do", "not", "impact", "our", "overall", "conclusions", "As", "a", "result", ",", "we", "use", "the", "default", "hyperparameters", "used", "by", "Ro", "et", "al", "(", "2020", ")", "for", "Multi2OIE", "Because", "other", "models", "did", "not", "report", "any", "particular", "sensitivity", "to", "hyperparameters", ",", "we", "generalize", "this", "result", "to", "all", "models", "we", "use", "and", "use", "the", "final", "set", "of", "hyperparam-", "eters", "those", "authors", "use", "5.4", "Existing", "Model", "Limitations", "Models", "are", "often", "developed", "with", "specific", "datasets", "in", "mind", "Some", "papers", "introducing", "new", "models", "also", "introduce", "new", "training", "sets", "such", "as", "CopyAttention", "(", "Cui", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2018", ")", ",", "SpanOIE", "(", "Zhan", "and", "Zhao", ",", "2020", ")", ",", "and", "IMoJIE", "(", "Kolluru", "et", "al" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2020b", ")", "which", "may", "influ-", "ence", "model", "assumptions", "SpanOIE", "also", "introduces", "its", "own", "manually", "annotated", "benchmark", ",", "which", "may", "have", "informed", "the", "assumptions", "SpanOIE", "makes" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "The", "lack", "of", "consensus", "on", "how", "to", "label", "OpenIE", "makes", "it", "difficult", "to", "perform", "apples", "-", "to", "-", "apples", "com-", "parisons", "because", "certain", "models", "can", "not", "extract", "some", "relations", "due", "to", "the", "assumptions", "they", "make", "OpenIE", "has", "also", "largely", "been", "limited", "to", "English", "MILIE", "makes", "assumptions", "that", "allow", "for", "differ-", "ent", "extraction", "methods", "depending", "on", "the", "language", ",", "but", "other", "OpenIE", "models", "that", "support", "multilingual", "extraction", "largely", "treat", "extraction", "from", "other", "lan-", "guages", "the", "same", "as", "extraction", "from", "English", "Multi-", "lingual", "OpenIE", "remains", "an", "open", "field", "of", "study", "6", "Experiments", "In", "this", "section", ",", "we", "describe", "how", "we", "compare", "Ope-", "nIE", "models", "and", "datasets", "for", "the", "sake", "of", "recom-", "mendation", "To", "find", "the", "best", "system", "for", "different", "applications", ",", "we", "test", "whether", "the", "properties", "of", "Ope-", "nIE", "models", "and", "training", "sets", "have", "a", "statistically", "significant", "effect", "on", "accuracy", "in", "test", "sets", "with", "corre-", "sponding", "properties", "We", "are", "also", "interested", "in", "how", "the", "choice", "of", "model", "affects", "efficiency", "in", "order", "to", "satisfy", "the", "fast", "extraction", "property", "(", "FE", ")", "We", "answer", "the", "following", "questions", ":", "R1", ":", "How", "does", "whether", "a", "model", "supports", "N", "-", "ary", "relation", "(", "N", "-", "ary", ")", "extraction", "and", "whether", "the", "training", "set", "contains", "N", "-", "ary", "affect", "the", "F1", "score", "of", "a", "model", "on", "test", "sets", "with", "or", "without", "N", "-", "ary", "?", "R2", ":", "How", "does", "whether", "a", "model", "supports", "inferred934", "relation", "(", "IN", ")", "extraction", "and", "whether", "the", "training", "set", "contains", "INaffect", "the", "F1", "score", "of", "a", "model", "on", "test", "sets", "with", "or", "without", "IN", "?", "R3", ":", "How", "does", "the", "model", "type", "affect", "efficiency", "as", "measured", "by", "the", "number", "of", "sentences", "processed", "per", "second", "(", "Sen.", "/", "Sec", ")", "?", "6.1", "Experimental", "Setup", "Models", ":", "We", "compare", "SpanOIE", ",", "IMoJIE", ",", "Multi2OIE", ",", "the", "3", "stages", "of", "OpenIE6", ":", "IGL", "-", "OIE", ",", "CIGL", "-", "OIE", ",", "and", "OpenIE6", ",", "and", "DetIE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MethodName" ]

[ "For", "each", "model", ",", "we", "train", "them", "with", "their", "paper", "’s", "original", "dev", "set", "and", "their", "original", "hyperparameters", "We", "run", "all", "experiments", "on", "a", "Quadro", "RTX", "5000", "GPU", "Training", "Datasets", ":", "We", "train", "models", "on", "the", "SpanOIE", ",", "OIE4", ",", "IMoJIE", ",", "and", "LSOIE", "training", "sets" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O" ]

[ "We", "combine", "the", "Science", "and", "Wikipedia", "domain", "for", "both", "the", "training", "and", "benchmark", "of", "LSOIE", ",", "en-", "suring", "there", "are", "no", "duplicate", "sentences", "from", "over-", "lapping", "sentences", "in", "the", "domains", "Due", "to", "the", "in-", "put", "structure", "of", "SpanOIE", "and", "Multi2OIE", ",", "they", "can", "not", "be", "trained", "on", "training", "datasets", "with", "inferred", "relations", "Subsequently", ",", "we", "remove", "any", "inferred", "relations", "from", "the", "training", "sets", "of", "those", "models", "Similarly", ",", "as", "IMoJIE", ",", "OpenIE6", ",", "and", "DetIE", "can", "not", "extract", "N", "-", "ary", "relations", ",", "we", "convert", "all", "N", "-", "ary", "relations", "in", "the", "training", "set", "into", "binary", "relations", "by", "moving", "additional", "arguments", "into", "the", "object" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "the", "relation", "(", "Alice", ",", "went", ",", "to", "the", "store", ",", "today", ")", "is", "converted", "into", "(", "Alice", ",", "went", ",", "to", "the", "store", "today", ")", "Inferred", "and", "N", "-", "ary", "relations", "were", "not", "re-", "moved", "from", "the", "gold", "standards", "of", "the", "test", "sets", "Benchmarks", ":", "We", "evaluate", "all", "the", "models", "on", "the", "publicly", "available", "English", "benchmarks", "OIE2016", ",", "WiRe57", ",", "ReOIE2016", ",", "CaRB", ",", "and", "LSOIE", "Evaluation", "Metrics", ":", "We", "use", "OIE2016", "’s", ",", "WiRe57", "’s", ",", "and", "CaRB", "’s", "metrics", "for", "evaluation" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ "We", "perform", "student", "’s", "t", "-", "test", "between", "OpenIE", "system", ",", "test", "set", ",", "and", "evaluation", "metric", "configurations", "to", "an-", "swer", "R1", ",", "R2", ",", "and", "R3", "For", "R1andR2the", "t", "-", "scores", "are", "computed", "using", "the", "per", "-", "sentence", "F1", "scores", "of", "each", "method" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O" ]

[ "For", "R3the", "t", "-", "scores", "are", "computed", "us-", "ing", "the", "mean", "sentences", "per", "second", "for", "each", "training", "set", "and", "test", "set", "combination", "for", "a", "given", "model", "7", "Results", "In", "this", "section", ",", "we", "perform", "an", "apples", "-", "to", "-", "apples", "comparison", "among", "different", "OpenIE", "systems", "to", "determine", "the", "SoTA", "OpenIE", "model", "and", "the", "best", "general", "-", "purpose", "OpenIE", "training", "dataset", "Best", "OpenIE", "Model", "We", "compare", "the", "differentmodels", "on", "different", "evaluation", "metrics", "averaged", "across", "different", "training", "and", "test", "sets", "in", "Table", "5", "We", "observe", "that", "across", "all", "evaluation", "metrics", "Multi2OIE", "and", "CIGL", "-", "OIE", "have", "the", "highest", "or", "sec-", "ond", "highest", "F1", "score", "We", "also", "observe", "that", "IGL-", "OIE", "and", "CIGL", "-", "OIE", "are", "the", "most", "efficient", "models", "Best", "OpenIE", "Training", "Set", "Because", "performance", "on", "a", "test", "set", "is", "also", "greatly", "dependent", "on", "the", "train-", "ing", "set", "depending", "on", "the", "domain", "and", "generation", "methods", ",", "we", "determine", "the", "best", "training", "set", "for", "each", "test", "set", "In", "Table", "6", ",", "we", "compare", "different", "training", "and", "test", "set", "combinations", "with", "different", "evaluation", "metrics", "averaged", "across", "models", "We", "observe", "that", "the", "models", "trained", "on", "LSOIE", "perform", "best", "on", "the", "OIE2016", "and", "LSOIE", "test", "sets" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O" ]

[ "This", "is", "because", "the", "LSOIE", "training", "set", "and", "the", "OIE2016", "and", "LSOIE", "test", "sets", "are", "derived", "from", "different", "ver-", "sions", "of", "QA", "-", "SRL", "and", "generated", "using", "the", "same", "rules" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "WiRe57", ",", "ReOIE2016", ",", "and", "CaRB", "test", "sets", ",", "we", "observe", "that", "the", "models", "trained", "on", "the", "OIE4", "and", "SpanOIE", "training", "sets", "generally", "perform", "the", "best", "It", "is", "likely", "because", "the", "OIE4", "and", "SpanOIE", "training", "sets", "contain", "both", "N", "-", "ary", "andINrelations", "like", "the", "WiRe57", ",", "ReOIE2016", ",", "and", "CaRB", "test", "sets", "while", "LSOIE", "and", "IMoJIE", "do", "n’t" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O" ]

[ "Of", "the", "two", "models", "with", "the", "highest", "aver-", "age", "CaRB", "F1", "scores", ",", "Multi2OIE", "and", "CIGL", "-", "OIE", ",", "Multi2OIE", "has", "higher", "average", "precision", "while", "CIGL", "-", "OIE", "has", "higher", "average", "recall", "CIGL", "-", "OIE", "tends", "to", "extract", "longer", "objects", "than", "Multi2OIE", "as", "seen", "in", "Table", "7", ",", "which", "may", "explain", "this", "difference", "Overall", ",", "OpenIE", "models", "have", "the", "poorest", "perfor-", "mance", "when", "extracting", "the", "object", ",", "which", "may", "be", "due", "to", "the", "variance", "in", "object", "length", "from", "additional", "arguments", "compared", "to", "the", "subject", "and", "predicate", "7.1", "Research", "Questions", "To", "answer", "our", "research", "questions", ",", "we", "perform", "stu-", "dent", "’s", "t", "-", "test", "using", "the", "CaRB", "F1", "scores", "of", "the", "high-", "est", "scoring", "model", ",", "training", "set", ",", "and", "test", "set", "combi-", "nations", "for", "each", "setting" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "perform", "comparisons", "of", "OpenIE", "systems", ",", "where", "one", "aspect", "(", "model", "or", "training", "set", ")", "is", "changed", "and", "the", "other", "aspects", "are", "kept", "constant", "Then", ",", "we", "choose", "the", "test", "set", "and", "evaluation", "metric", "for", "the", "two", "settings", "that", "results", "in", "the", "highest", "t", "-", "score", "between", "methods" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O" ]

[ "ForR1", ",", "we", "conclude", "(", "1", ")", "regardless", "of", "training", "set", ",", "the", "best", "N", "-", "ary", "models", "perform", "better", "than", "the", "best", "non-", "N", "-", "ary", "models", ";", "(", "2", ")", "regardless", "of", "the", "model", ",", "training", "on", "the", "best", "N", "-", "ary", "training", "sets", "results", "in", "higher", "performance", "than", "training", "on", "the", "best", "non-935", "Model", "Sen.", "/", "Sec", "CaRB", "WiRe", "57", "P", "R", "F1", "P", "R", "F1", "SpanOIE", "13.40", "0.474", "0.464", "0.433", "0.474", "0.374", "0.375", "IMoJIE", "2.07", "0.598", "0.431", "0.488", "0.598", "0.355", "0.428", "Multi2OIE", "29.22", "0.626", "0.501", "0.552", "0.624", "0.419", "0.488", "IGL", "-", "OIE", "84.07", "0.574", "0.442", "0.497", "0.574", "0.365", "0.434", "CIGL", "-", "OIE", "68.80", "0.490", "0.531", "0.503", "0.489", "0.429", "0.442", "OpenIE6", "28.36", "0.394", "0.518", "0.438", "0.394", "0.463", "0.413", "DetIE", "29.06", "0.603", "0.436", "0.502", "0.603", "0.353", "0.435", "Table", "5", ":", "Performance", "of", "different", "models", "with", "different", "evaluation", "metrics", "averaged", "across", "training", "and", "test", "data", "Therefore", "if", "an", "application", "benefits", "from", "N", "-", "ary", ",", "then", "the", "best", "OpenIE", "sys-", "tem", "should", "include", "either", "a", "N", "-", "ary", "model", ",", "N", "-", "ary", "training", "set", ",", "or", "both", ",", "with", "both", "being", "preferred", "ForR2", ",", "we", "conclude", "that", "(", "1", ")", "INmodels", "are", "better", "than", "non-", "INmodels", "when", "there", "is", "either", "a", "INtraining", "and", "INtest", "set", ",", "or", "a", "non-", "INtraining", "and", "non", "-", "INtest", "set", ";", "(", "2", ")", "INtraining", "sets", "are", "better", "than", "non", "-", "INtraining", "sets", "when", "there", "is", "an", "INmodel", "and", "INtest", "set", "Therefore", "if", "an", "application", "benefits", "from", "IN", ",", "then", "the", "chosen", "training", "set", "and", "model", "should", "either", "both", "be", "INor", "both", "be", "non-", "IN", "ForR3", ",", "we", "compare", "the", "efficiency", "of", "the", "sole", "generative", "model", ",", "IMoJIE", ",", "to", "the", "efficiency", "of", "ev-", "ery", "other", "model" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "observe", "that", "every", "other", "model", "is", "faster", "than", "IMoJIE", "and", "the", "difference", "is", "sta-", "tistically", "significant", "This", "matches", "expectations", ",", "since", "it", "has", "been", "previously", "shown", "that", "IMoJIE", "is", "slower", "than", "other", "OpenIE", "models", "(", "Kolluru", "et", "al", ",", "2020a", ")", ".Therefore", "if", "an", "application", "is", "concernedSentenceAccording", "to", "the", "2010", "census", ",", "the", "population", "of", "the", "town", "is", "2,310", "Multi2OIE", "(", "the", "population", "of", "the", "town", ";", "is", ";", "2,310", ")", "CIGL", "-", "OIE", "(", "the", "population", "of", "the", "town", ";", "is", ";", "According", "to", "the", "2010", "census", ",", "2,310", ")", "Table", "7", ":", "A", "demonstration", "that", "CIGL", "-", "OIE", "tends", "to", "ex-", "tract", "longer", "objects", "than", "Multi2OIE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Both", "are", "trained", "on", "SpanOIE" ]

[ "O", "O", "O", "O", "B-DatasetName" ]

[ "The", "sentence", "is", "from", "the", "CaRB", "test", "set" ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "O", "O" ]

[ "about", "efficiency", ",", "then", "the", "chosen", "OpenIE", "model", "should", "not", "be", "a", "generative", "model", "8", "A", "Case", "Study", ":", "Complex", "QA", "To", "verify", "our", "recommendations", ",", "we", "perform", "a", "case", "study", "using", "QUEST", "(", "Lu", "et", "al", ",", "2019", ")", ",", "a", "Complex", "QA", "method", "that", "uses", "OpenIE", "to", "extract", "entities", "and", "predicates", "from", "the", "question", "and", "from", "docu-", "ments", "to", "generate", "knowledge", "graphs", "The", "nodes", "are", "entities", "derived", "from", "subjects", "and", "objects", ",", "while", "the", "edges", "are", "predicates", "The", "knowledge", "graph", "is", "matched", "to", "the", "entities", "in", "the", "question", "and", "traversed", "to", "find", "potential", "answers", "Because", "more", "extractions", "result", "in", "a", "larger", "knowledge", "graph", ",", "QUEST", "ben-", "efits", "from", "HR", "which", "the", "authors", "use", "their", "own", "rule", "-", "based", "OpenIE", "method", "to", "achieve", "8.1", "Experimental", "Setup", "To", "test", "our", "recommendations", ",", "we", "replace", "the", "Ope-", "nIE", "method", "used", "by", "the", "authors", "with", "Multi2OIE", "trained", "on", "SpanOIE", ",", "CIGL", "-", "OIE", "trained", "on", "OIE4", ",", "and", "OpenIE6", "trained", "on", "OIE4" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "B-DatasetName" ]

[ "We", "chose", "these", "models", "and", "training", "sets", "because", "they", "have", "the", "highest", "overall", "CaRB", "recall", "and", "F1", "scores" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName" ]

[ "One", "caveat", "is", "that", "in", "order", "for", "QUEST", "to", "connect", "entities", "from", "multiple", "sentences", ",", "they", "must", "have", "the", "same", "surface", "form" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Because", "OpenIE", "methods", "often", "extract", "long", "subjects", "and", "objects", "that", "include", "adjectives", "and", "modifiers", ",", "if", "the", "subject", "or", "object", "of", "an", "extraction", "contains", "entities", "extracted", "by", "QUEST,936", "OpenIE", "Questions", "Documents", "MRR", "P", "@", "1", "Hit", "@", "5", "QUEST", "CQ", "-", "W", "Top", "10", "0.132", "0.080", "0.167", "CIGL", "-", "OIE", "CQ", "-", "W", "Top", "10", "0.111", "0.060", "0.167", "OpenIE6", "CQ", "-", "W", "Top", "10", "0.104", "0.060", "0.147", "Multi2OIE", "CQ", "-", "W", "Top", "10", "0.094", "0.053", "0.140", "Table", "8", ":", "Performance", "of", "QUEST", "using", "different", "OpenIE", "methods", "on", "the", "CQ", "-", "W", "dataset", "using", "the", "Top", "10", "Google", "documents" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "we", "add", "additional", "relations", "using", "those", "entities", "For", "example", ",", "in", "the", "sentence", "\"", "Hector", "Elizondo", "was", "nominated", "for", "a", "Golden", "Globe", "for", "his", "role", "in", "Pretty", "Woman", ",", "\"", "QUEST", "may", "extract", "the", "entities", "\"", "Hector", "Elizondo", ",", "\"", "\"", "Golden", "Globe", ",", "\"", "and", "\"", "Pretty", "Woman", "\"", "If", "an", "OpenIE", "method", "were", "to", "extract", "the", "triple", "(", "\"", "Hector", "Elizondo", "\"", ",", "\"", "was", "nominated", "\"", ",", "\"", "for", "a", "Golden", "Globe", "for", "his", "role", "in", "Pretty", "Woman", "\"", ")", ",", "we", "would", "add", "the", "additional", "extractions", "(", "\"", "Hec-", "tor", "Elizondo", "\"", ",", "\"", "was", "nominated", "\"", ",", "\"", "Golden", "Globe", "\"", ")", "and", "(", "\"", "Hector", "Elizondo", "\"", ",", "\"", "was", "nominated", "\"", ",", "\"", "Pretty", "Woman", "\"", ")", "QUEST", "also", "replaces", "pronouns", "with", "the", "entities", "they", "refer", "to", "because", "nodes", "in", "the", "knowl-", "edge", "graph", "can", "not", "be", "made", "using", "pronouns" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "replace", "pronouns", "using", "the", "same", "method", "QUEST", "does", "before", "running", "any", "OpenIE", "method" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "We", "run", "QUEST", "using", "the", "CQ", "-", "W", "question", "set", "and", "search", "for", "answers", "in", "the", "Top-10", "Google", "docu-", "ment", "set", "used", "in", "their", "paper" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Because", "CIGL", "-", "OIE", "has", "the", "highest", "CaRB", "recall", "and", "OpenIE6", "has", "the", "highest", "WiRe57", "recall", ",", "we", "expect", "that", "using", "either", "of", "them", "will", "result", "in", "higher", "downstream", "perfor-", "mance", "than", "using", "Multi2OIE" ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "8.2", "Evaluation", "We", "compare", "the", "Mean", "Reciprocal", "Rank", "(", "MRR", ")", ",", "Precision", "@", "1", "(", "P", "@", "1", ")", ",", "and", "Hit", "@", "5", "for", "each", "OpenIE", "model" ]

[ "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O" ]

[ "The", "results", "of", "our", "case", "study", "are", "summa-", "rized", "in", "Table", "8", "We", "observe", "higher", "performance", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "than", "Multi2OIE", "on", "QUEST", ",", "which", "matches", "our", "expectations", "based", "on", "the", "higher", "recall", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "and", "the", "desired", "property", "of", "HRbut", "not", "HPfor", "QA" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "B-TaskName" ]

[ "Our", "case", "study", "demonstrates", "the", "applicability", "of", "our", "empirical", "study", "to", "the", "use", "of", "OpenIE", "methods", "in", "downstream", "applications", "An", "important", "note", "is", "that", "oftentimes", "a", "great", "deal", "of", "pre-", "and", "post", "-", "processing", "is", "necessary", "to", "adapt", "OpenIE", "for", "different", "downstream", "applications", "Re-", "moving", "pronouns", "and", "adding", "additional", "entity-", "based", "extractions", "was", "necessary", "to", "achieve", "reason-", "able", "performance", "in", "QUEST" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "Even", "after", "modifyingMulti2OIE", ",", "CIGL", "-", "OIE", ",", "and", "OpenIE6", "in", "this", "way", ",", "their", "performance", "is", "less", "than", "the", "original", "perfor-", "mance", "of", "QUEST", "As", "a", "result", ",", "it", "is", "important", "to", "not", "just", "consider", "the", "performance", "and", "properties", "of", "OpenIE", "models", ",", "but", "also", "how", "to", "adapt", "models", "to", "their", "specific", "needs" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "9", "Challenges", "and", "Future", "Directions", "Even", "with", "the", "introduction", "of", "neural", "models", ",", "Ope-", "nIE", "systems", "still", "have", "significant", "room", "for", "improve-", "ment" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "Table", "2", "we", "state", "that", "canonicalizing", "ex-", "tractions", "is", "desired", "by", "QA", "while", "extracting", "from", "imperative", "sentences", "is", "desired", "by", "both", "QA", "and", "summarization", ",", "but", "no", "existing", "model", "or", "dataset", "addresses", "these", "properties" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "sections", "3.1", "and", "3.2", "we", "note", "the", "lack", "of", "consensus", "on", "how", "to", "label", "Ope-", "nIE", "and", "the", "issues", "with", "weak", "labeling", "Existing", "metrics", "also", "have", "issues", "with", "semantic", "meaning", "as", "discussed", "in", "section", "4", ",", "which", "is", "exacerbated", "by", "errors", "caused", "by", "weak", "labeling", "The", "lack", "of", "con-", "sensus", "in", "how", "to", "label", "OpenIE", "relations", "results", "in", "a", "diverse", "set", "of", "models", "as", "we", "discuss", "in", "section", "5.4", "The", "different", "assumptions", "these", "models", "make", "are", "also", "largely", "constrained", "to", "English", "syntax", ",", "leaving", "future", "work", "in", "multilingual", "OpenIE", "open", "10", "Conclusion", "In", "this", "paper", ",", "we", "presented", "an", "application", "-", "focused", "empirical", "comparison", "of", "recent", "neural", "OpenIE", "models", ",", "training", "sets", ",", "and", "benchmarks", "Our", "experi-", "ments", "showed", "that", "the", "different", "properties", "of", "Ope-", "nIE", "models", "and", "datasets", "affect", "the", "performance", ",", "meaning", "it", "is", "important", "to", "choose", "the", "appropriate", "system", "for", "a", "given", "application", "and", "not", "just", "choose", "whatever", "model", "is", "state", "-", "of", "-", "the", "-", "art" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "950–966", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Subjective", "Crowd", "Disagreements", "for", "Subjective", "Data", ":", "Uncovering", "Meaningful", "CrowdOpinion", "with", "Population", "-", "level", "Learning", "Tharindu", "Cyril", "Weerasooriya1", "*", ",", "Sarah", "Luger2", ",", "Saloni", "Poddar1", ",", "Ashiqur", "R", "KhudaBukhsh1", ",", "Christopher", "M", "Homan1", "1Rochester", "Institute", "of", "Technology", ",", "USA", "2Orange", "Silicon", "Valley", "*", "cyriltcw", "@", "gmail.com", "Abstract", "This", "paper", "contains", "content", "that", "can", "be", "offen-", "sive", "or", "disturbing", "Human", "-", "annotated", "data", "plays", "a", "critical", "role", "in", "the", "fairness", "of", "AI", "systems", ",", "including", "those", "that", "deal", "with", "life", "-", "altering", "decisions", "or", "moderat-", "ing", "human", "-", "created", "web", "/", "social", "media", "content", "Conventionally", ",", "annotator", "disagreements", "are", "resolved", "before", "any", "learning", "takes", "place", "How-", "ever", ",", "researchers", "are", "increasingly", "identifying", "annotator", "disagreement", "as", "pervasive", "and", "mean-", "ingful", "They", "also", "question", "the", "performance", "of", "a", "system", "when", "annotators", "disagree", "Partic-", "ularly", "when", "minority", "views", "are", "disregarded", ",", "especially", "among", "groups", "that", "may", "already", "be", "underrepresented", "in", "the", "annotator", "population", "In", "this", "paper", ",", "we", "introduce", "CrowdOpinion", ",", "an", "unsupervised", "learning", "based", "approach", "that", "uses", "language", "features", "and", "label", "distributions", "to", "pool", "similar", "items", "into", "larger", "samples", "of", "label", "dis-", "tributions" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "experiment", "with", "four", "generative", "and", "one", "density", "-", "based", "clustering", "method", ",", "ap-", "plied", "to", "five", "linear", "combinations", "of", "label", "dis-", "tributions", "and", "features", "We", "use", "five", "publicly", "available", "benchmark", "datasets", "(", "with", "varying", "lev-", "els", "of", "annotator", "disagreements", ")", "from", "social", "me-", "dia", "(", "Twitter", ",", "Gab", ",", "and", "Reddit", ")", "We", "also", "experi-", "ment", "in", "the", "wild", "using", "a", "dataset", "from", "Facebook", ",", "where", "annotations", "come", "from", "the", "platform", "it-", "self", "by", "users", "reacting", "to", "posts", "We", "evaluate", "CrowdOpinion", "as", "a", "label", "distribution", "prediction", "task", "using", "KL", "-", "divergence", "and", "a", "single", "-", "label", "problem", "using", "accuracy", "measures" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "1", "Introduction", "Long", "term", "exposure", "to", "offensive", ",", "threatening", ",", "and", "hate", "speech", "posts", "through", "any", "public", "-", "facing", "social", "media", "platform", "can", "lead", "to", "depression", "or", "even", "phys-", "ical", "injuries", ",", "specially", "at", "a", "younger", "age", "(", "Pedalino", "and", "Camerini", ",", "2022", ")", "This", "is", "a", "persistent", "problem", "in", "social", "and", "web", "content", "where", "the", "impact", "could", "be", "not", "limited", "to", "just", "the", "targeted", "parties", "but", "expand", "to", "anyone", "in", "the", "community", "consuming", "the", "content", "Intended", "Not", "Intd", "Prob", "Intd", "Not", "Prob", "Intd.0.00.51.01.52.0Count", "(", "a", ")", "DSIE1", "“", "Dur-", "ing", "the", "Thanksgiv-", "ing", "season", ",", "many", "Americans", "support", "Jennie", "-", "O", "-", "cide", "”", "Intended", "Not", "Intd", "Prob", "These", "examples", "show", "how", "offense", "can", "not", "generalize", ",", "and", "in", "cases", "when", "a", "majority", "of", "the", "annotators", "are", "not", "offended", "the", "input", "for", "a", "classifier", "is", "the", "majority", "voice", "Language", "used", "by", "content", "creators", "in", "social", "me-", "dia", "(", "see", "Figure", "1", ")", "with", "a", "subtle", "tone", "and", "syntax", "can", "hide", "the", "offensive", "content", "from", "the", "purview", "(", "Basile", "et", "al", ",", "2019", ";", "Zubiaga", "et", "al", ",", "2019", ")", "or", "machine", "learn-", "ing", "classifiers", "(", "Kumar", "et", "al", ",", "2021", ")", "This", "challenge", "has", "ethical", "and", "legal", "implications", "in", "many", "countries", "as", "these", "governments", "have", "imposed", "restrictions", "for", "platforms", "to", "identify", "and", "remove", "such", "harming", "con-", "tent", "(", "Kralj", "Novak", "et", "al", ",", "2022", ";", "Saha", "et", "al", ",", "2019", ")", "citing", "the", "right", "for", "safety", "The", "ML", "classifiers", "generally", "rely", "on", "human", "feed-", "back", "(", "Eriksson", "and", "Simpson", ",", "2010", ";", "Dong", "et", "al", ",", "2019", ")", "Because", "humans", ",", "as", "content", "creators", "or", "annotators", "(", "content", "moderators", ")", ",", "are", "subjective", "in", "their", "opinions", "(", "Alm", ",", "2011", ")", "Their", "feedback", "is", "es-", "sential", "to", "understanding", "subjective", "web", "or", "social", "media", "content", "The", "standard", "practice", "is", "to", "ask", "mul-", "tiple", "annotators", "about", "each", "post", "and", "then", "use", "the", "majority", "opinion", "or", "ML", "-", "based", "methods", "to", "deter-", "mine", "the", "ground", "truth", "label", "(", "see", "Figure", "2", ")", "Typically", ",", "minority", "views", "are", "completely", "re-", "moved", "from", "the", "dataset", "before", "it", "is", "published", "Yet", "these", "views", "are", "often", "meaningful", "and", "important950", "Figure", "2", ":", "Each", "learning", "example", "is", "associated", "with", "sets", "of", "labels", ":", "(", "1", ")", "the", "(", "hidden", ")", "full", "distribution", "of", "responses", "by", "the", "en-", "tire", "population", "of", "annotators", "/", "stakeholders", ";", "(", "2", ")", "the", "(", "observed", ")", "responses", "received", "often", "from", "human", "crowdworkers", "hired", "to", "annotate", "the", "data", ";", "(", "3", ")", "an", "estimate", "of", "the", "full", "population", "distri-", "bution", "based", "on", "the", "empirical", "distribution", "of", "the", "given", "item", "(", "and", "frequently", "of", "other", "items", "and", "anonymized", "identifiers", "for", "the", "annotators", ")", ";", "(", "4", ")", "the", "prediction", "of", "a", "machine", "learning", "model", "trained", "on", "either", "the", "empirical", "or", "estimated", "distributions", "Figure", "1", "shows", "three", "tweets", "with", "offensive", "language", "that", "have", "been", "labeled", "by", "multiple", "annotators", "about", "the", "tweeter", "’s", "intent", "(", "Sap", "et", "al", ",", "2019", ")", "In", "each", "case", ",", "the", "major-", "ity", "of", "annotators", "considers", "the", "offensiveness", "to", "be", "not", "intended", "Yet", "a", "minority", "considers", "it", "to", "be", "in-", "tended", "A", "classifier", "trained", "on", "such", "language", "data", "after", "these", "minority", "opinions", "are", "removed", "would", "not", "know", "about", "them", "This", "is", "dangerous", "because", "abusers", "often", "obscure", "offensive", "language", "to", "sound", "unintended", "in", "case", "they", "are", "confronted", "(", "Sang", "and", "Stanton", ",", "2022", ")", "And", "so", ",", "removing", "minority", "opin-", "ions", "could", "have", "dramatic", "impacts", "on", "the", "model", "’s", "performance", "if", ",", "say", ",", "it", "was", "trying", "to", "detect", "users", "creating", "hateful", "or", "offensive", "content", "on", "a", "social", "platform", "Consequently", ",", "a", "growing", "body", "of", "research", "advo-", "cates", "that", "published", "datasets", "include", "ALL", "annota-", "tions", "obtained", "for", "each", "item", "(", "Geng", ",", "2016", ";", "Liu", "et", "al", ",", "2019", ";", "Klenner", "et", "al", ",", "2020", ";", "Basile", ",", "2020", ";", "Prab-", "hakaran", "et", "al", ",", "2021", ")", "And", "a", "substantial", "body", "of", "research", "is", "studying", "annotator", "disagreement", "(", "Aroyo", "and", "Welty", ",", "2014", ";", "Kairam", "and", "Heer", ",", "2016", ";", "Plank", "et", "al", ",", "2014", ";", "Chung", "et", "al", ",", "2019", ";", "Obermeyer", "et", "al", ",", "2019", ";", "Founta", "et", "al", ",", "2018", ";", "Binns", "et", "al", ",", "2017", ")", "Un-", "fortunately", ",", "most", "existing", "datasets", "are", "based", "on", "3–10", "annotators", "per", "label", ",", "far", "too", "few", ",", "statistically", "speaking", ",", "to", "represent", "a", "population", "Thus", ",", "learning", "over", "such", "a", "sparse", "space", "is", "challenging", "(", "2019", ")", "show", "that", "clustering", "in", "the", "space", "of", "label", "distributions", "can", "ameliorate", "the", "sparseness", "problem", ",", "indicating", "that", "data", "items", "with", "similar", "la-", "bel", "distributions", "likely", "have", "similar", "interpretations", "Thus", ",", "a", "model", "can", "pool", "labels", "into", "a", "single", "collec-", "tion", "that", "is", "large", "enough", "to", "represent", "the", "underlying", "annotator", "population", "Recent", "work", "by", "Davani", "et", "al.", "(", "2022", ")", ",", "studying", "annotator", "disagreement", "with", "ma-", "jority", "vote", "and", "multi", "-", "label", "learning", "methods", ",", "has", "called", "out", "the", "need", "for", "cluster", "-", "based", "modeling", "to", "understand", "annotator", "disagreements", "The", "lack", "of", "annotator", "-", "level", "labels", "also", "hinders", "studying", "the", "annotator", "behaviors", "using", "methods", "that", "utilize", "those", "granular", "-", "level", "labels", "(", "Dawid", "and", "Skene", ",", "1979", ";", "Rodrigues", "and", "Pereira", ",", "2018", ";", "Gordon", "et", "al", ",", "2022", ";", "Collins", "et", "al", ",", "2022", ";", "Liu", "et", "al", ",", "2023", ")", "We", "see", "this", "as", "a", "benefit", "to", "CrowdOpinion", "(", "CO", ")", "we", "propose", ",", "a", "technique", "applicable", "at", "a", "broader", "level", "for", "understanding", "and", "predicting", "annotator", "disagreements", "which", "mitigate", "granular", "-", "level", "anno-", "tations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Themotivation", "behind", "CrowdOpinion", "is", "to", "re-", "duce", "inequity", "and", "bias", "in", "human", "-", "supervised", "ma-", "chine", "learning", "by", "preserving", "the", "full", "distribution", "of", "crowd", "responses", "(", "and", "their", "opinions", ")", "through", "the", "entire", "learning", "pipeline" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "focus", "our", "methods", "on", "web", "and", "social", "media", "content", "due", "to", "its", "sub-", "jectivity", "Our", "contributions", "to", "this", "core", "problem", "in", "AI", "and", "NLP", "is", "a", "learning", "framework1that", "uses", "unsupervised", "learning", "in", "Stage", "1", "on", "both", "the", "la-", "belsAND", "data", "features", "to", "better", "estimate", "soft", "label", "distributions", "And", "in", "Stage", "2", ",", "we", "use", "these", "labels", "from", "Stage", "1", "to", "train", "and", "evaluate", "with", "a", "supervised", "learning", "model", "We", "consider", "the", "following", "three", "questions", "Q1", ":", "Does", "mixing", "language", "features", "and", "labels", "lead", "to", "better", "ground", "truth", "estimates", "than", "those", "that", "use", "labels", "only", "?", "This", "focuses", "on", "the", "first", "stage", "as", "a", "standalone", "problem", "and", "is", "difficult", "to", "answer", "directly", ",", "as", "“", "ground", "truth", "”", "from", "our", "perspective", "is", "thedistribution", "of", "labels", "from", "a", "hidden", "population", "of", "would", "-", "be", "annotators", ",", "of", "which", "we", "often", "only", "have", "a", "small", "sample", "(", "3", "-", "10", "annotators", ")", "per", "data", "item", "We", "study", "four", "generative", "and", "one", "distance", "-", "based", "clustering", "methods", ",", "trained", "jointly", "on", "features", "and", "label", "distributions", ",", "where", "we", "vary", "the", "amount", "of", "weight", "given", "to", "features", "versus", "labels", "Q2", ":", "Does", "mixing", "features", "and", "labels", "in", "the", "first", "stage", "lead", "to", "better", "label", "distribution", "learning", "in", "the", "second", "?", "We", "use", "the", "label", "distributions", "obtained", "from", "the", "first", "-", "stage", "models", "from", "Q1as", "feedback", "for", "supervised", "learning", "We", "compare", "our", "results", "with", "baselines", "from", "pooling", "based", "on", "labels", "only", "(", "Liu", "et", "al", ",", "2019", ")", ",", "predictions", "trained", "on", "the", "majority", "label", "for", "each", "item", "without", "clustering", ",", "and", "predic-", "tions", "trained", "on", "the", "label", "distribution", "for", "each", "item", "1Experimental", "code", "available", "through", "https", ":", "/", "/", "github", "Reactions", "arelike", ",", "love", ",", "sad", ",", "wow", ",", "angry", ",", "and", "haha", "but", "without", "any", "other", "first", "-", "stage", "modeling", "Our", "results", "show", "improvement", "over", "unaggregated", "base-", "lines", "Q3", ":", "Do", "our", "methods", "lead", "to", "better", "single", "-", "label", "learning", "(", "SL", ")", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O" ]

[ "Since", "most", "applications", "consider", "only", "single", "-", "label", "prediction", ",", "we", "measure", "the", "model", "performance", "on", "single", "-", "label", "prediction", "via", "accu-", "racy", "1.1", "Beyond", "Experiments", "Humans", "have", "annotated", "our", "benchmark", "datasets", "for", "specific", "tasks", "However", ",", "this", "is", "not", "always", "the", "case", "in", "practice", "Social", "networks", "have", "introduced", "reac-", "tions", "that", "allow", "users", "to", "react", "to", "platform", "content", "We", "study", "this", "use", "case", "by", "predicting", "these", "reactions", "for", "Facebook", "posts", "(", "Wolf", ",", "2016", ")", "as", "a", "special", "case", "Among", "the", "top", "100", "posts", "from", "Facebook", "(", "en-", "tropy", ">", "1.2", ")", ",", "26", "were", "about", "Donald", "Trump", ",", "with", "most", "of", "the", "label", "distribution", "mass", "divided", "between", "“", "like", "”", ",", "“", "haha", "”", ",", "and", "“", "angry", "”", "Another", "26", "posts", "were", "about", "politics", "(", "but", "not", "Trump", ")", ",", "with", "the", "label", "distri-", "bution", "mass", "generally", "divided", "between", "“", "angry", "”", "and", "“", "sad", "”", "There", "were", "only", "two", "non", "-", "English", "posts", "and", "no", "sports", "-", "related", "posts", "And", "interestingly", ",", "except", "for", "two", "non", "-", "English", "posts", ",", "all", "of", "the", "other", "top", "posts", "had", "a", "substantial", "portion", "of", "their", "mass", "on", "“", "angry", "”", "The", "bottom", "100", "set", "(", "entropy", "<", "0.04", ")", "contains", "46", "posts", "about", "sports", "and", "13", "non", "-", "English", "posts", "There", "was", "only", "one", "political", "post", "(", "and", "it", "was", "not", "about", "Trump", ")", "The", "label", "distribution", "pattern", "in", "this", "set", "was", "more", "dominated", "by", "“", "like", "”", "(", ">", "98", "%", ")", ",", "followed", "by", "reactions", "of", "either", "“", "love", "”", "or", "“", "haha", "”", "“", "Like", "”", "was", "also", "dominant", "in", "the", "high", "entropy", "posts", ",", "but", "not", "to", "such", "a", "degree", ";", "based", "on", "this", "observation", "and", "(", "Tian", "et", "al", ",", "2017", ")", ",", "we", "eliminate", "it", "from", "our", "experiments", "Figure", "3", "illustrates", "some", "nuances", "in", "meaning", "that", "different", "label", "distributions", "reveal", "All", "three", "are", "negative", "posts", "about", "Barack", "Obama", ",", "and", "all", "have", "most", "of", "their", "mass", "on", "“", "like", "”", "DFBE1", "andDFBE2", "have", "similar", "distributions", ",", "in", "contrast", "to", "DFBE3", "where", ",", "besides", "“", "like", "”", ",", "the", "distribution", "mass", "falls", "mainly", "on", "“", "haha", "”", "and", "“", "angry", "”" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Perhaps", "this", "is", "because", ",", "in", "contrast", "to", "the", "first", "two", "posts", "which", "are", "from", "anonymous", "sources", ",", "the", "criticism", "on", "DFBE3", "comes", "from", "a", "political", "rival", ",", "and", "maybe", "this", "pro-", "vides", "a", "concrete", "target", "for", "ridicule", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1.2", "Facebook", "’s", "Special", "Case", "\"", "Like", "\"", "was", "the", "original", "Facebook", "reaction", "and", "plat-", "form", "users", "may", "find", "it", "a", "quick", ",", "default", ",", "and", "intuitive", "interaction", "The", "over", "-", "representation", "of", "\"", "like", "\"", "on", "Facebook", "exemplifies", "how", "this", "dataset", "is", "an", "un-", "usual", "human", "annotation", "case" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "is", "unique", "not", "only", "in", "the", "human", "labeling", "behavior", ",", "but", "also", "in", "the", "re-", "sulting", "label", "distribution", "2", "Methods", "-", "CrowdOpinion", "In", "conventional", ",", "nondistributional", "supervised", "learn-", "ing", ",", "clustering", "might", "happen", "over", "the", "feature", "space", "only", "as", "a", "form", "of", "data", "regularization", "(", "Nikulin", "and", "McLachlan", ",", "2009", ")", ";", "the", "labels", ",", "being", "strictly", "cate-", "gorical", "and", "nondistributional", ",", "would", "be", "scalar", "and", "thus", "too", "simple", "to", "benefit", "from", "extensive", "modeling" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "our", "setting", ",", "each", "data", "item", "xi∈", "X", "is", "associated", "with", "a", "vector", "yi∈", "Y", ",", "representing", "the", "empirical", "distribution", "of", "ALL", "annotator", "responses", ",", "which", "we", "view", "as", "sample", "of", "a", "larger", ",", "hidden", "population", "Our", "approach", ",", "CrowdOpinion", "(", "CO", ")", "is", "two", "-", "staged", "and", "summarized", "in", "Algorithm", "1" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "Stage", "1", ",", "we", "cluster", "together", "related", "data", "items", "and", "share", "among", "them", "a", "label", "distribution", "ˆyibased", "on", "all", "labels", "from", "all", "items", "in", "each", "cluster", "This", "stage", "resembles", ",", "in", "function", ",", "a", "deep", "vein", "of", "label", "estimation", "research", "begun", "by", "Dawid", "and", "Skene", "(", "Dawid", "and", "Skene", ",", "1979", ";", "Carpenter", ",", "2008", ";", "Ipeiro-", "tis", "et", "al", ",", "2010", ";", "Pasternack", "and", "Roth", ",", "2010", ";", "Weld", "et", "al", ",", "2011", ";", "Raykar", "and", "Yu", ",", "2012", ";", "Kairam", "and", "Heer", ",", "2016", ";", "Gordon", "et", "al", ",", "2021", ")", ",", "except", "that", "(", "a", ")", "our", "output", "is", "an", "estimate", "of", "the", "distribution", "of", "label", "responses", "by", "the", "underlying", "population", "of", "annota-", "tors", ",", "not", "a", "single", "label", ",", "and", "(", "b", ")", "yiin", "their", "models", "is", "a", "vector", "with", "one", "dimension", "for", "each", "annotator", "To", "better", "handle", "the", "label", "sparseness", "common", "in", "most", "datasets", ",", "our", "yihas", "one", "dimension", "for", "each", "label", "choice", ",", "representing", "the", "proportion", "of", "annotators", "who", "made", "that", "choice", "Stage", "2", "performs", "supervised", "learning", "on", "these", "new", "item", ",", "label", "distribution", "pairs", "(", "xi", ",", "ˆyi", ")", "Note", "that", "nearly", "any", "pair", "of", "clustering", "Cand", "supervised", "learning", "Halgorithms", "can", "be", "used952", "Algorithm", "1", ":", "CO", "-", "C", "-", "H", "-", "w", "1Parameters", ":", "2Clustering", "(", "or", "pooling", ")", "algorithm", "C", "3Hypothesis", "space", "H", "4Mixing", "parameter", "w∈", "[", "0,1", "]", "5Inputs", ":", "6Data", "features", "with", "empirical", "label", "distributions", "(", "xi", ",", "yi", ")", "1≤i≤n", "/", "/", "BOTH", "xiandyiare", "vectors", "!", "7Procedure", ":", "8Stage", "1", ":", "9Perform", "clustering", "with", "Con", "BOTH", "item", "features", "and", "labels", ",", "weighted", "and", "concatenated", "together", ":", "(", "w·xi", ",", "(", "1−w", ")", "·yi", ")", "1≤i≤n", "10Let", "(", "ˆxi", ",", "ˆyi", ")", "be", "the", "centroid", "of", "the", "cluster", "πjassociated", "with", "each", "(", "xi", ",", "yi", ")", "11Stage", "2", ":", "Perform", "supervised", "learning", "on", "(", "xi", ",", "ˆyi", ")", "over", "hypothesis", "space", "H", "for", "stages", "one", "and", "two", ",", "respectively", "(", "2019", ")", "performed", "the", "same", "kind", "of", "label", "regular-", "ization", "only", "using", "the", "label", "space", "Y", ",", "it", "is", "a", "base-", "line", "for", "our", "methods", "(", "w=", "0", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "Our", "main", "techni-", "cal", "innovation", "is", "to", "perform", "label", "regularization", "based", "on", "the", "weighted", "joint", "feature", "and", "label", "space", "w·X", "×", "(", "1−w", ")", "·Y", ",", "where", "w∈", "[", "0,1", "]", "is", "the", "mixing", "parameter", "that", "determines", "the", "relative", "importance", "ofXversus", "Yduring", "clustering", "We", "consider", "four", "clustering", "models", "Cused", "by", "Liu", "et", "al", "(", "2019", ")", ":", "a", "(", "finite", ")", "multinomial", "mixture", "model", "(", "FMM", ")", "with", "a", "Dirichlet", "prior", "over", "π∼", "Dir", "(", "p", ",", "γ=", "75", ")", ",", "where", "pis", "the", "number", "of", "clusters", "and", "each", "cluster", "distribution", "πjis", "a", "multinomial", "distribution", "with", "Dirichlet", "priors", "Dir", "(", "d", ",", "γ=", "0.1", ")", ",", "where", "dis", "the", "size", "of", "the", "label", "space", ",", "using", "the", "bnpy", "library", "(", "Hughes", "and", "Sudderth", ",", "2013", ")", ",", "a", "Gaus-", "sian", "mixture", "model", "(", "GMM", ")", "and", "a", "K", "-", "means", "model", "(", "KM", ")", "from", "scikit", "-", "learn", ",", "and", "the", "Gensim", "imple-", "mentation", "of", "Latent", "Dirichlet", "Allocation", "(", "LDA", ")", "(", "ˇReh˚", "u", "ˇrek", "and", "Sojka", ",", "2010", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", ":", "a", "(", "finite", ")", "multinomial", "mixture", "model", "(", "FMM", ")", "with", "a", "Dirichlet", "prior", "over", "π∼", "Dir", "(", "p", ",", "γ=", "75", ")", ",", "where", "pis", "the", "number", "of", "clusters", "and", "each", "cluster", "distribution", "πjis", "a", "multinomial", "distribution", "with", "Dirichlet", "priors", "Dir", "(", "d", ",", "γ=", "0.1", ")", ",", "where", "dis", "the", "size", "of", "the", "label", "space", ",", "using", "the", "bnpy", "library", "(", "Hughes", "and", "Sudderth", ",", "2013", ")", ",", "a", "Gaus-", "sian", "mixture", "model", "(", "GMM", ")", "and", "a", "K", "-", "means", "model", "(", "KM", ")", "from", "scikit", "-", "learn", ",", "and", "the", "Gensim", "imple-", "mentation", "of", "Latent", "Dirichlet", "Allocation", "(", "LDA", ")", "(", "ˇReh˚", "u", "ˇrek", "and", "Sojka", ",", "2010", ")" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Each", "of", "these", "models", "takes", "as", "a", "hyperparameter", "the", "number", "of", "clusters", "p" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O" ]

[ "We", "perform", "parameter", "search", "(", "4≤p≤", "40", ")", "on", "the", "number", "of", "clusters", ",", "choosing", "arg", "min", "p", "/", "summationtext", "iKL", "(", "(", "xi", ",", "yi", ")", "w", ",", "(", "ˆxi", ",", "ˆyi", ")", "w", ")", ",", "i.e.", ",", "the", "p", "that", "minimizes", "the", "total", "KL", "divergence", "between", "the", "raw", "and", "clustered", "label", "distribution", ",", "where", ",", "e.g.", ",", "(", "xi", ",", "yi", ")", "wdenotes", "(", "w·xi", ",", "(", "1−w", ")", "·yi", ")", ",", "i.e.", ",", "the", "weighted", "concatenation", "of", "xiandyi" ]

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "consider", "a", "soft", ",", "distance", "-", "based", "cluster", "-", "ing", "method", ",", "called", "neighborhood", "-", "based", "pooling", "(", "NBP", ")", "in", "the", "context", "of", "PLL", "(", "Weerasooriya", "et", "al", ",", "2020", ")", "For", "each", "data", "item", "iit", "averages", "over", "all", "data", "items", "jwithin", "a", "fixed", "Kullback", "-", "Liebler", "(", "KL", ")", "ball", "of", "radius", "r", ":", "ˆyi=", "{", "yj|KL", "(", "(", "xi", ",", "yi", ")", "w∥", "(", "xj", ",", "yj", ")", "w", ")", "<", "r", "}" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "1", ")", "Here", ",", "the", "hyperparameter", "is", "the", "diameter", "rof", "the", "balls", ",", "rather", "than", "the", "number", "of", "clusters", ",", "and", "there", "is", "one", "ball", "for", "each", "data", "item", "We", "perform", "hyper-", "parameter", "search", "(", "0≤r≤15", ")", "via", "methods", "used", "in", "(", "Weerasooriya", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2020", ")", "Table", "2", "summarizes", "model", "selection", "results", "using", "these", "methods", "The", "supervised", "model", "(", "CNN", ")", "forHis", "a", "1D", "convolutional", "neural", "network", "(", "Kim", ",", "2014", ")", ",", "with", "three", "convolution", "/", "max", "pool", "layers", "(", "of", "dimension", "128", ")", "followed", "by", "a", "dropout", "(", "0.5", ")", "and", "softmax", "layer", "implemented", "with", "TensorFlow" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "input", "to", "the", "model", "is", "a", "384", "-", "dimension", "-", "vector", "text", "em-", "bedding", ",", "described", "below" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O" ]

[ "Table", "3", "summarizes", "the", "supervised", "-", "learning", "based", "classification", "results", "We", "compare", "our", "methods", "against", "four", "baselines", "PDis", "our", "CNN", "model", "but", "with", "no", "clustering", ";", "it", "is", "trained", "directly", "on", "the", "raw", "empirical", "label", "distri-", "butions", "(", "yi", ")", ".SLthe", "same", "model", ",", "but", "trained", "on", "one", "-", "hot", "encodings", "of", "most", "frequent", "label", "in", "each", "yi", "DS+CNN", "uses", "the", "Dawid", "and", "Skene", "(", "1979", ")", "model", "for", "CandH", "=", "CNN", ".CO", "-", "C", "-", "CNN-", "0is", "from", "Liu", "et", "al", "(", "2019", ")", ",", "which", "clusters", "on", "labels", "only", "We", "represent", "language", "features", "for", "both", "our", "unsupervised", "learning", "and", "classification", "ex-", "periments", "using", "a", "state", "-", "of", "-", "the", "-", "art", "pre", "-", "trained", "paraphrase", "-", "MiniLM", "-", "L6", "-", "v2", "transformer", "model", "using", "SBERT", "(", "sentence", "-", "transformers", ")", "library", "(", "Reimers", "and", "Gurevych", ",", "2019", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "identified", "this", "pre", "-", "trained", "model", "based", "on", "STS", "benchmark", "scores", "at", "the", "time", "of", "writing" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O" ]

[ "The", "feature", "vector", "size", "for", "each", "post", "is", "384" ]

[ "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "B-HyperparameterValue" ]

[ "3", "Experiments", "3.1", "Dataset", "Descriptions", "As", "our", "approach", "focuses", "on", "human", "disagreement", ",", "we", "identified", "datasets", "that", "contain", "multiple", "annota-", "tors", "and", "multiple", "label", "choices", "per", "data", "item", "We", "conducted", "our", "experiments", "on", "publicly", "available", "human", "-", "annotated", "English", "language", "datasets", "gen-", "erated", "from", "social", "media", "sites", "(", "Facebook", ",", "Twitter", ",", "and", "Reddit", ")", "Each", "dataset", "consists", "of", "2,000", "posts", "and", "employs", "a", "50", "/", "25", "/", "25", "percent", "for", "train", "/", "dev", "/", "test", "split", "Larger", "datasets", "are", "downsampled", "with", "ran-", "dom", "selection", "to", "2,000", "for", "a", "fairer", "comparison", "be-953", "Dataset", "No", "Here", "r", "/", "pis", "the", "number", "of", "clusters", "for", "the", "generative", "models", "and", "ris", "the", "neighborhood", "size", "for", "distance", "-", "based", "clustering" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O" ]

[ "K", "-", "Means", "is", "the", "optimum", "model", "for", "DSI", ",", "while", "NBP", "(", "distance", "-", "based", "clustering", ")", "is", "the", "optimal", "model", "for", "the", "remaining", "five", "datasets" ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "datasets", "vary", "in", "content", ",", "num-", "ber", "of", "annotators", "per", "item", ",", "number", "of", "annotator", "choices", ",", "and", "source", "of", "content", "More", "detailed", "de-", "scriptions", "of", "the", "datasets", "are", "included", "in", "the", "Ap-", "pendix", "3.2", "Results", "To", "address", "Q1", ",", "i.e.", ",", "whether", "mixtures", "of", "data", "fea-", "tures", "and", "labels", "in", "Stage", "1", "lead", "to", "better", "ground", "truth", "population", "estimates", ",", "Table", "2", "shows", "the", "model", "name", ",", "hyperparameter", "values", ",", "and", "mean", "KL", "diver-", "gence", "between", "the", "cluster", "centroid", "ˆyiand", "each", "item", "’s", "empirical", "distribution", "yiof", "the", "best", "clus-", "ter", "model", "for", "each", "dataset", "The", "best", "choice", "for", "wvaries", "considerably", "across", "the", "datasets" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O" ]

[ "The", "two", "datasets", ",", "DGE", ",", "JQ", "3with", "the", "largest", "number", "of", "choices", "(", "28", "and", "12", ",", "respectively", ")", "both", "selected", "models", "with", "w=", "0", ",", "i.e.", ",", "the", "label", "distributions", "alone", "provided", "the", "best", "results" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "was", "somewhat", "surprising", ",", "especially", "considering", "that", "in", "both", "cases", "the", "number", "of", "annotators", "per", "item", "is", "less", "than", "the", "number", "of", "label", "choices", "We", "suspected", "that", "such", "sparse", "distributions", "would", "be", "too", "noisy", "to", "learn", "from", "But", "apparently", "the", "size", "of", "these", "label", "spaces", "alone", "leads", "to", "a", "rich", ",", "meaningful", "signal", "On", "the", "other", "extreme", ",", "the", "dataset", "with", "the", "fewest", "annotators", "(", "DSI", ")", "per", "item", "selected", "a", "model", "with", "w=", "1", ",", "i.e.", ",", "it", "used", "only", "item", "features", ",", "and", "not", "the", "label", "distributions", ",", "to", "determine", "the", "clusters" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "is", "what", "we", "would", "expect", "whenever", "there", "is", "relatively", "low", "confidence", "in", "the", "label", "distributions", ",", "which", "should", "be", "the", "case", "with", "so", "few", "labels", "per", "item", "Interestingly", ",", "it", "was", "the", "only", "dataset", "that", "didnot", "select", "NBP", "(", "K", "-", "Means", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]

[ "In", "general", ",", "the", "mean", "KL", "-", "divergence", "for", "all", "se-", "lected", "models", "was", "quite", "low", ",", "suggesting", "that", "the", "items", "clustered", "together", "tended", "to", "have", "very", "simi-", "lar", "label", "distributions" ]

[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "might", "expect", "for", "there", "to", "be", "more", "divergence", "the", "higher", "wis", ",", "because", "clustering", "with", "higher", "wrelies", "less", "directly", "on", "the", "label", "distributions", "But", ",", "reading", "across", "the", "the", "re-", "sults", ",", "there", "does", "not", "appear", "to", "be", "any", "relationship", "between", "wand", "KL", "-", "divergence" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-MetricName", "I-MetricName", "I-MetricName" ]

[ "The", "datasets", "them-", "selves", "are", "very", "different", "from", "one", "another", ",", "and", "so", "perhaps", "it", "is", "unlikely", "that", "something", "as", "simple", "as", "the", "mixing", "parameter", "wwould", "change", "the", "final", "label", "assignment", "ForQ2", ",", "i.e.", ",", "whether", "mixtures", "of", "data", "features", "and", "labels", "in", "Stage", "1", "improve", "the", "label", "distribu-", "tion", "prediction", "in", "Stage", "2", ",", "we", "measure", "the", "mean", "KL", "(", "yi∥H", "(", "xi", ")", ")", ",", "where", "His", "one", "of", "the", "supervised", "learning", "models", "trained", "on", "each", "of", "the", "clustering", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "all", "datasets", ",", "the", "best", "cluster", "-", "based", "models", "in", "Table", "3", "outperform", "the", "baselines", "from", "Table", "3", "Among", "the", "clustering", "models", ",", "as", "with", "Q1", "there", "is", "a", "lot", "of", "variation", "among", "which", "values", "for", "wgive", "the", "best", "performance" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]

[ "But", "while", "the", "differ-", "ences", "appear", "significant", ",", "they", "are", "not", "substantial", ",", "suggesting", "that", "subtle", "differences", "in", "the", "data", "or", "the", "inductive", "biases", "of", "particular", "clustering", "models", "are", "driving", "the", "variance", "It", "is", "interesting", "to", "note", "that", "DS+CNN", "is", "always", "close", "to", "the", "worst", "model", "and", "often", "the", "worst", "by", "far" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "may", "be", "because", "(", "a", ")", "that", "model", "treats", "dis-", "agreement", "as", "a", "sign", "of", "poor", "annotation", "and", "seeks", "to", "eliminate", "it", ",", "whereas", "our", "model", "is", "designed", "to", "preserve", "disagreement", "(", "b", ")", "DSmodels", "individual", "annotator", "-", "item", "pairs", "and", "the", "datasets", "we", "study", "here", "(", "which", "are", "representative", "of", "most", "datasets", "currently", "available", ")", "have", "very", "sparse", "label", "sets", ",", "and", "so", "over-", "fitting", "is", "a", "concern" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ForQ3", ",", "Table", "3", "(", "bottom", ")", "shows", "the", "classification", "prediction", "results", ",", "where", "evaluation", "is", "measured", "by", "accuracy", ",", "i.e.", ",", "the", "proportion", "of", "test", "cases", "where", "the", "arg", "max", "label", "of", "the", "(", "ground", "truth", ")", "training", "input", "label", "distribution", "is", "equal", "to", "that", "of", "the", "arg", "max", "predicted", "label", "distribution" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "the", "results", "are", "mixed", "between", "the", "non", "-", "clustering", "(", "Table", "4", ")", "and", "clustering", "(", "Table", "4", ")", "models", ",", "and", "the", "variation", "in", "terms", "of", "significance", "and", "substance", "is", "in", "line", "with", "Q1", "Once", "again", ",", "DS+CNN", "is", "the", "overall", "worst", "performer", ",", "even", "though", "here", "the", "goal", "is", "single", "-", "label", "inference", ",", "i.e.", ",", "exactly", "what", "DSis", "designed", "for.954", "KL", "-", "Divergence", "(", "↓", ")", "Dataset", "DFB", "DGE", "DJQ1", "DJQ2", "DJQ3", "DSIBaselinesPD", "0.857±0.006", "2.011", "±0.001", "1.092", "±0.004", "1.088", "±0.003", "1.462", "±0.00", "0.889", "±0.00", "DS+CNN", "-", "3.247", "±0.012", "1.042", "±0.005", "1.035", "±0.003", "3.197", "±0.034", "1.514", "±0.067", "Model", "(", "C", ")", "GMM", "LDA", "GMM", "K", "-", "Means", "LDA", "FMM", "KL", ",", "w=", "0", "0.684±0.001", "1.987±0.001", "0.427", "±0.01", "0.510±0.001", "0.823±0.001", "0.860", "±0.026", "w=", "0.75", "0", ".50", "1", ".0", "0", ".25", "1", ".0", "1", ".0", "KL", "0.680±0.001", "1.995±0.001", "0.450", "±0.001", "0.499±0.001", "0.884±0.001", "0.991", "±0.003", "Table", "3", ":", "KL", "-", "divergence", "(", "↓", ")", "results", "for", "the", "CO-", "C", "-", "CNN-", "wmodels", "from", "Algorithm", "1", ",", "using", "various", "choices", "for", "clustering", "Cand", "feature", "-", "label", "mixing", "w" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "w=", "0is", "the", "baseline", "from", "Liu", "et", "al" ]

[ "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "w=", "1", "means", "that", "only", "data", "feature", "are", "used" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "score", "is", "included", "in", "the", "table", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "6.The", "best", "score", "for", "each", "dataset", "bolded", "Here", "w=", "0is", "the", "baseline", "from", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "w=", "1means", "that", "only", "data", "feature", "are", "used" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "Since", "accuracy", "is", "a", "non", "-", "distributional", "statistic", ",", "we", "use", "the", "most", "frequent", "label", "for", "inference", "(", "though", "not", "during", "training", ";", "we", "use", "the", "same", "trained", "models", "as", "in", "Table", "2", ")" ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", ";", "PDis", "trained", "on", "empirical", "distributions", ",", "and", "SLclassifier", "is", "trained", "on", "the", "most", "frequent", "label" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "DSuses", "Dawid", "and", "Skene", "(", "1979", ")", "for", "label", "aggregation", "and", "our", "CNN", "model", "for", "prediction", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "7", "The", "best", "score", "for", "each", "dataset", "bolded", "In", "the", "first", "example", "the", "author", "’s", "sarcasm", "is", "missed", "by", "4", "out", "of", "10", "annotators", "who", "label", "the", "comment", "as", "none", "of", "the", "above", "but", "job", "related", "and", "in", "the", "second", ",", "a", "similar", "sentiment", "is", "labeled", "as", "going", "to", "work", "when", "hours", "or", "complaining", "about", "work", "are", "chosen", "by", "others", "4", "Discussions", "and", "Ethical", "Considerations", "Our", "results", "for", "Qs", "2–3", "show", "that", "cluster", "-", "based", "ag-", "gregation", "universally", "improves", "the", "performance", "of", "distributional", "learning", "This", "seems", "to", "confirm", "that", "clustering", "is", "a", "powerful", "tool", "for", "combating", "la-", "bel", "sparseness", "to", "predict", "population", "-", "level", "annotator", "responses", "However", ",", "results", "were", "mixed", "for", "single-", "label", "learning" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName" ]