Datasets:

---

anlp

/

annotation2_wo_elimination

like 0

Follow

anlp team project 4

[ "Xiaozhi", "Wang", ",", "Yulin", "Chen", ",", "Ning", "Ding", ",", "Hao", "Peng", ",", "Zimu", "Wang", ",", "Yankai", "Lin", ",", "Xu", "Han", ",", "Lei", "Hou", ",", "Juanzi", "Li", ",", "Zhiyuan", "Liu", ",", "Peng", "Li", ",", "and", "Jie", "Zhou", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2022", "." ]

[ "O", "O" ]

[ "MA", "VEN", "-", "ERE", ":", "A", "unified", "large", "-", "scale", "dataset", "for", "event", "coreference", ",", "temporal", ",", "causal", ",", "and", "subevent", "re-", "lation", "extraction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "EMNLP", ",", "pages", "926–941", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Asso-", "ciation", "for", "Computational", "Linguistics", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Xiaozhi", "Wang", ",", "Xu", "Han", ",", "Zhiyuan", "Liu", ",", "Maosong", "Sun", ",", "and", "Peng", "Li", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Adversarial", "training", "for", "weakly", "supervised", "event", "detection", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "998–1008", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Association", "for", "Computational", "Linguistics", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Xiaozhi", "Wang", ",", "Ziqi", "Wang", ",", "Xu", "Han", ",", "Wangyi", "Jiang", ",", "Rong", "Han", ",", "Zhiyuan", "Liu", ",", "Juanzi", "Li", ",", "Peng", "Li", ",", "Yankai", "Lin", ",", "and", "Jie", "Zhou", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2020b", "." ]

[ "O", "O" ]

[ "MA", "VEN", ":", "A", "massive", "gen-", "eral", "domain", "event", "detection", "dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "EMNLP", "(", "1", ")", ",", "pages", "1652–1671", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Association", "for", "Computational", "Linguistics", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Xingyao", "Wang", ",", "Sha", "Li", ",", "and", "Heng", "Ji", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2023", "." ]

[ "O", "O" ]

[ "Code4struct", ":", "Code", "generation", "for", "few", "-", "shot", "structured", "prediction", "from", "natural", "language", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "ACL", "(", "1", ")", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Association", "for", "Computational", "Linguistics", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Haoran", "Yan", ",", "Xiaolong", "Jin", ",", "Xiangbin", "Meng", ",", "Jiafeng", "Guo", ",", "and", "Xueqi", "Cheng", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Event", "detection", "with", "multi", "-", "order", "graph", "convolution", "and", "aggregated", "atten-", "tion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "EMNLP", "/", "IJCNLP", "(", "1", ")", ",", "pages", "5765–5769", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As-", "sociation", "for", "Computational", "Linguistics", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Appendices", "A", "Multi", "-", "Faceted", "Event", "-", "Relations", "Note", "that", "MAVEN", "-EREandONTOEVENT", "-DOC", "both", "includes", "multi", "-", "faceted", "event", "-", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "MAVEN", "-EREin", "this", "paper", "contains", "6", "tempo-", "ral", "relations", ":", "BEFORE", ",", "OVERLAP", ",", "CONTAINS", ",", "SIMULTANEOUS", ",", "BEGINS", "-", "ON", ",", "ENDS", "-", "ON", ";", "2causal", "relations", ":", "CAUSE", ",", "PRECONDITION", ";", "and", "1", "subevent", "relation", ":", "subevent_relations", "." ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ONTOEVENT", "-DOCin", "this", "paper", "contains", "3", "tem-", "poral", "relations", ":", "BEFORE", ",", "AFTER", ",", "EQUAL", ";", "and", "2", "causal", "relations", ":", "CAUSE", ",", "CAUSEDBY", "." ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "add", "a", "NA", "relation", "to", "signify", "no", "relation", "between", "the", "event", "mention", "pair", "for", "the", "two", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "B", "Implementation", "Details", "for", "Different", "Tasks", "B.1", "Event", "Trigger", "Classification", "Settings", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "follow", "the", "similar", "evaluation", "protocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Sheng", "et", "al", ".", ",", "2022", ")", "on", "trigger", "classification", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "present", "the", "results", "in", "Table", "2", "when", "jointly", "training", "with", "event", "classification", "and", "the", "whole", "ERE", "task", "(", "“", "All", "Joint", "”", "in", "Table", "4", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "backbone", "encoder", "is", "pretrained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "both", "ONTOEVENT", "-DOCandMAVEN", "-", "ERE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O" ]

[ "B.2", "Event", "Classification", "Settings", "." ]

[ "O", "O", "O", "O", "O" ]

[ "We", "follow", "the", "similar", "evaluation", "pro-", "tocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Deng", "et", "al", ".", ",", "2021", ")", "on", "event", "classification", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "present", "the", "results", "in", "Table", "3", "when", "jointly", "train-", "ing", "with", "trigger", "classification", "and", "all", "ERE", "subtasks", "(", "“", "+", "joint", "”", "in", "Table", "4", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "backbone", "encoder", "is", "pre-", "trained", "DistilBERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "0.1", ",", "1", ",", "0.1", "for", "ONTOEVENT", "-DOCand", "1", ",", "0.1", ",", "0.1", "for", "M", "AVEN", "-ERE", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "B.3", "Event", "-", "Relation", "Extraction", "Settings", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "follow", "the", "similar", "ERE", "experiment", "settings", "with", "Wang", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2022", ")", "on", "several", "sub-", "tasks", ",", "by", "separately", "and", "jointly", "training", "on", "tem-", "poral", ",", "causal", ",", "and", "subevent", "event", "-", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "present", "the", "results", "in", "Table", "4", "when", "jointly", "training", "with", "trigger", "classification", "and", "event", "classification", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "backbone", "encoder", "is", "pretrained", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "ONTOEVENT", "-DOC", "dataset", ",", "the", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "re-", "spectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "all", "ERE", "subtasks", "." ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "MAVEN", "-EREdataset", ",", "λ1", ",", "λ2", ",", "λ3are", "respectively", "set", "to", "0.1", ",", "0.1", ",", "1", "for", "“", "All", "Joint", "”", "ERE", "subtasks", "in", "Ta-", "ble", "4", ";", "1", ",", "1", ",", "4", "for", "“", "+", "joint", "”", ";", "1", ",", "0.1", ",", "0.1", "for", "“", "Temporal", "”", "and", "“", "Causal", "”", ";", "and", "1", ",", "0.1", ",", "0.08", "for", "“", "Subevent”.361", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "square\u0013A1", "." ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Left", "blank", "." ]

[ "O", "O", "O" ]

[ "/", "squareA2", "." ]

[ "O", "O", "O" ]

[ "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Not", "applicable", "." ]

[ "O", "O", "O" ]

[ "Left", "blank", "." ]

[ "O", "O", "O" ]

[ "/", "square\u0013A3", "." ]

[ "O", "O", "O" ]

[ "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Abstract", "&", "at", "the", "end", "of", "Section", "1", "&", "Section", "6", "/", "square\u0017A4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Left", "blank", "." ]

[ "O", "O", "O" ]

[ "B", "/", "square\u0013Did", "you", "use", "or", "create", "scientific", "artifacts", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4", "/", "square\u0013B1", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4.1", "/", "square\u0013B2", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4", "/", "square\u0013B3", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "specified", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4", "/", "squareB4", "." ]

[ "O", "O", "O", "O", "O" ]

[ "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identifies", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Not", "applicable", "." ]

[ "O", "O", "O" ]

[ "I", "use", "the", "existing", "benchmark", "/", "squareB5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", ".", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Not", "applicable", "." ]

[ "O", "O", "O" ]

[ "need", "n’t", "to", "/", "square\u0013B6", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "report", "relevant", "statistics", "like", "the", "number", "of", "examples", ",", "details", "of", "train", "/", "test", "/", "dev", "splits", ",", "etc", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "for", "the", "data", "that", "you", "used", "/", "created", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Even", "for", "commonly", "-", "used", "benchmark", "datasets", ",", "include", "the", "number", "of", "examples", "in", "train", "/", "validation", "/", "test", "splits", ",", "as", "these", "provide", "necessary", "context", "for", "a", "reader", "to", "understand", "experimental", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "small", "differences", "in", "accuracy", "on", "large", "test", "sets", "may", "be", "significant", ",", "while", "on", "small", "test", "sets", "they", "may", "not", "be", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4.1", "C", "/", "square\u0013Did", "you", "run", "computational", "experiments", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4", "Datasets", "and", "Baselines", "are", "in", "Section", "4.1", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "Main", "experiments", "are", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ",", "and", "Further", "Analysis", "is", "in", "Section", "5", "/", "square\u0017C1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "report", "the", "number", "of", "parameters", "in", "the", "models", "used", ",", "the", "total", "computational", "budget", "(", "e.g.", ",", "GPU", "hours", ")", ",", "and", "computing", "infrastructure", "used", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "have", "listed", "the", "implementation", "details", "of", "experiments", "at", "Sec", "4.2", "&", "Appendix", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "total", "computa-", "tional", "budget", "&", "computing", "infrastructure", "used", "are", "not", "the", "main", "concerns", "of", "our", "work", ",", "and", "we", "also", "The", "Responsible", "NLP", "Checklist", "used", "at", "ACL", "2023", "is", "adopted", "from", "NAACL", "2022", ",", "with", "the", "addition", "of", "a", "question", "on", "AI", "writing", "assistance.362", "did", "n’t", "run", "time", "statistics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "But", "we", "will", "provide", "more", "details", "when", "publication", ",", "and", "the", "codes", "will", "also", "mention", "more", "details", "on", "it", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "/", "square\u0013C2", "." ]

[ "O", "O", "O" ]

[ "Did", "you", "discuss", "the", "experimental", "setup", ",", "including", "hyperparameter", "search", "and", "best", "-", "found", "hyperparameter", "values", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Section", "4.2", ",", "Appendix", "B", "/", "square\u0013C3", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "report", "descriptive", "statistics", "about", "your", "results", "(", "e.g.", ",", "error", "bars", "around", "results", ",", "summary", "statistics", "from", "sets", "of", "experiments", ")", ",", "and", "is", "it", "transparent", "whether", "you", "are", "reporting", "the", "max", ",", "mean", ",", "etc", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "or", "just", "a", "single", "run", "?" ]

[ "O", "O", "O", "O", "O", "O" ]

[ "We", "run", "our", "model", "and", "baselines", "multiple", "times", "and", "calculate", "an", "average", "with", "upper", "and", "lower", "bounds", ",", "which", "are", "shown", "in", "Section", "4.3", ",", "4.4", ",", "4.5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "/", "squareC4", "." ]

[ "O", "O", "O" ]

[ "If", "you", "used", "existing", "packages", "(", "e.g.", ",", "for", "preprocessing", ",", "for", "normalization", ",", "or", "for", "evaluation", ")", ",", "did", "you", "report", "the", "implementation", ",", "model", ",", "and", "parameter", "settings", "used", "(", "e.g.", ",", "NLTK", ",", "Spacy", ",", "ROUGE", ",", "etc", ".", ")", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Not", "applicable", "." ]

[ "O", "O", "O" ]

[ "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "D", "/", "square\u0017Did", "you", "use", "human", "annotators", "(", "e.g.", ",", "crowdworkers", ")", "or", "research", "with", "human", "participants", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Left", "blank", "." ]

[ "O", "O", "O" ]

[ "/", "squareD1", "." ]

[ "O", "O", "O" ]

[ "Did", "you", "report", "the", "full", "text", "of", "instructions", "given", "to", "participants", ",", "including", "e.g.", ",", "screenshots", ",", "disclaimers", "of", "any", "risks", "to", "participants", "or", "annotators", ",", "etc", ".", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "No", "response", "." ]

[ "O", "O", "O" ]

[ "/", "squareD2", "." ]

[ "O", "O", "O" ]

[ "Did", "you", "report", "information", "about", "how", "you", "recruited", "(", "e.g.", ",", "crowdsourcing", "platform", ",", "students", ")", "and", "paid", "participants", ",", "and", "discuss", "if", "such", "payment", "is", "adequate", "given", "the", "participants", "’", "demographic", "(", "e.g.", ",", "country", "of", "residence", ")", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "No", "response", "." ]

[ "O", "O", "O" ]

[ "/", "squareD3", "." ]

[ "O", "O", "O" ]