Datasets:

anlp

/

anno1_w_elimination

like 0

Follow

anlp team project 4

[ "We", "release", "the", "dataset", "with", "a", "CC0", "1.0", "license", "and", "open", "source", "all", "collection", "and", "analysis", "code", ",", "broadening", "the", "public", "’s", "access", "to", "cutting", "-", "edge", "AI", "technologies", ".", "We", "discuss", "findings", "on", "prompt", "and", "image", "patterns", ".", "We", "hope", "our", "work", "will", "serve", "as", "a", "cornerstone", "for", "the", "future", "development", "of", "large", "generative", "modes", "and", "tools", "that", "help", "users", "use", "these", "modes", ".", "7", "Limitations", "We", "discuss", "four", "limitations", "of", "our", "work", ":", "the", "in-", "clusion", "of", "unsafe", "content", ",", "potential", "biases", "in", "datasources", ",", "a", "limited", "measure", "of", "image", "quality", "and", "generalizability", "to", "different", "generative", "models", ".", "•Inclusion", "of", "unsafe", "images", "and", "prompts", ".", "We", "collect", "images", "and", "their", "prompts", "from", "the", "Sta-", "ble", "Diffusion", "Discord", "server", "(", "§", "2", ")", ".", "The", "Dis-", "cord", "server", "has", "rules", "against", "users", "generating", "or", "sharing", "harmful", "or", "NSFW", "(", "not", "suitable", "for", "work", ",", "such", "as", "sexual", "and", "violent", "content", ")", "images", ".", "The", "Stable", "Diffusion", "model", "used", "in", "the", "server", "also", "has", "an", "NSFW", "filter", "that", "blurs", "the", "generated", "images", "if", "it", "detects", "NSFW", "content", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "we", "observe", "that", "DIFFUSION", "DBincludes", "some", "NSFW", "images", "that", "were", "not", "detected", "by", "the", "NSFW", "filter", "or", "removed", "by", "the", "server", "modera-", "tors", "." ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "mitigate", "the", "potential", "harm", ",", "we", "compute", "and", "share", "the", "likelihood", "of", "an", "image", "or", "a", "prompt", "containing", "unsafe", "content", "using", "the", "state", "-", "of", "-", "the-", "art", "NSFW", "detectors", "(", "§", "2.3", ")", ".", "In", "addition", ",", "we", "provide", "a", "Google", "Form", "on", "the", "DIFFUSION", "DB", "website", "where", "users", "can", "report", "harmful", "or", "inap-", "propriate", "images", "and", "prompts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "will", "closely", "monitor", "this", "form", "and", "remove", "reported", "images", "and", "prompts", "from", "D", "IFFUSION", "DB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "•Potential", "biases", "of", "the", "data", "source", ".", "The", "14", "million", "images", "in", "DIFFUSION", "DBhave", "diverse", "styles", "and", "categories", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O" ]

[ "However", ",", "Discord", "can", "be", "a", "biased", "data", "source", ".", "Our", "images", "come", "from", "channels", "where", "early", "users", "could", "use", "a", "bot", "to", "use", "Stable", "Diffusion", "before", "release", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O" ]

[ "As", "these", "users", "had", "started", "using", "Stable", "Diffusion", "before", "the", "model", "was", "public", ",", "we", "hypothesize", "that", "they", "are", "AI", "art", "enthusiasts", "and", "are", "likely", "to", "have", "experi-", "ence", "with", "other", "text", "-", "to", "-", "image", "generative", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "the", "prompting", "style", "in", "DIFFUSION", "DB", "might", "not", "represent", "novice", "users", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O" ]

[ "Similarly", ",", "the", "prompts", "in", "DIFFUSION", "DBmight", "not", "generalize", "to", "domains", "that", "require", "specific", "knowledge", ",", "such", "as", "medical", "images", "(", "Chambon", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•Limited", "measure", "of", "image", "quality", ".", "We", "use", "joint", "text", "-", "image", "CLIP", "embeddings", "between", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", ".", "While", "the", "CLIP", "embedding", "distance", "can", "indicate", "the", "degree", "of", "alignment", "between", "the", "prompts", "and", "generated", "images", ",", "it", "does", "not", "provide", "a", "measure", "of", "the", "overall", "image", "quality", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "constructing", "our", "dataset", ",", "we", "have", "considered", "including", "image", "properties", "such", "as", "entropy", ",", "variance", ",", "and", "the", "most", "common", "colors", "to", "help", "users", "gauge", "image", "qualities", ".", "However", ",", "these", "metrics", "do", "not", "provide", "a", "good", "measure", "of", "the", "overall", "image", "quality", "as", "well", ".", "To", "better", "mea-901", "sure", "image", "quality", ",", "future", "researchers", "can", "recruit", "annotators", "to", "rate", "images", "in", "D", "IFFUSION", "DB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "•Generalizability", ".", "Previous", "research", "has", "shown", "a", "prompt", "that", "works", "well", "on", "one", "generative", "model", "might", "not", "give", "the", "optimal", "result", "when", "used", "in", "other", "models", "(", "Borji", ",", "2022", ")", ".", "Therefore", ",", "different", "models", "can", "need", "users", "to", "write", "different", "prompts", ".", "For", "example", ",", "many", "Stable", "Diffusion", "prompts", "use", "commas", "to", "separate", "keywords", ",", "while", "this", "pattern", "is", "less", "seen", "in", "prompts", "for", "DALL", "-", "E", "2", "(", "Ramesh", "et", "al", ".", ",", "2022", ")", "or", "Midjourney", "(", "Holz", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "we", "caution", "researchers", "that", "some", "research", "find-", "ings", "from", "DIFFUSION", "DBmight", "not", "be", "general-", "izable", "to", "other", "text", "-", "to", "-", "image", "generative", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "8", "Ethics", "Statement", "In", "this", "section", ",", "we", "discuss", "two", "main", "ethical", "consid-", "erations", "of", "D", "IFFUSION", "DB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "•Copyright", ".", "By", "using", "the", "Stable", "Diffusion", "Dis-", "cord", "server", ",", "all", "users", "agree", "to", "the", "entirety", "of", "CC0", "1.0", "Universal", "Public", "Domain", "Dedication", ".", "This", "includes", "waiving", "any", "intellectual", "property", "rights", "related", "to", "any", "content", "shared", "on", "the", "server", "(", "Sta-", "bilityAI", ",", "2022b", ")", ".", "All", "prompts", "and", "images", "in", "the", "Discord", "server", "are", "considered", "to", "be", "public", "do-", "main", "and", "can", "be", "used", "by", "anyone", "for", "any", "purpose", ".", "Also", ",", "we", "release", "DIFFUSION", "DBunder", "the", "CC0", "1.0", "license", "(", "§", "2.5", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•Privacy", ".", "While", "it", "is", "possible", "that", "some", "prompts", "may", "contain", "sensitive", "information", ",", "this", "is", "not", "common", "because", "the", "Stable", "Diffusion", "Discord", "has", "strict", "rules", "against", "writing", "personal", "informa-", "tion", "in", "the", "prompts", "and", "has", "moderators", "in", "place", "to", "remove", "violative", "messages", ".", "To", "further", "protect", "user", "privacy", ",", "we", "have", "anonymized", "the", "usernames", "of", "all", "users", "in", "our", "dataset", "(", "§", "2.4", ")", ".", "Users", "also", "have", "the", "option", "to", "remove", "their", "prompts", "and", "images", "from", "our", "dataset", "through", "an", "online", "form", "(", "§", "2.5", ")", ".", "We", "provide", "a", "thorough", "discussion", "on", "the", "limitations", "and", "broader", "impacts", "of", "D", "IFFUSION", "DB", "in", "its", "Data", "Sheet", "(", "Gebru", "et", "al", ".", ",", "2020", ")", "(", "‡", "A", ")", ".", "Acknowledgements", "We", "thank", "Stability", "AI", "for", "releasing", "Stable", "Diffusion", "and", "hosting", "the", "Stable", "Diffusion", "Discord", "server", ".", "We", "especially", "appreciate", "the", "Stable", "Diffusion", "Dis-", "cord", "moderators", "and", "users", "for", "creating", "an", "open", "and", "friendly", "online", "community", "that", "makes", "our", "work", "possible", ".", "We", "also", "extend", "our", "appreciation", "to", "Hug-", "ging", "Face", "for", "hosting", "our", "dataset", ".", "Lastly", ",", "we", "wouldlike", "to", "acknowledge", "the", "anonymous", "reviewers", "for", "their", "valuable", "feedback", "and", "insightful", "comments", "that", "helped", "improve", "our", "paper", ".", "This", "work", "was", "sup-", "ported", "in", "part", "by", "a", "J.P", ".", "Morgan", "PhD", "Fellowship", ",", "NSF", "grants", "IIS-1563816", ",", "DARPA", "GARD", ",", "gifts", "from", "Cisco", ",", "Bosch", ",", "and", "NVIDIA", ".", "Use", ",", "duplication", ",", "or", "disclosure", "is", "subject", "to", "the", "restrictions", "as", "stated", "in", "Agreement", "number", "HR00112030001", "between", "the", "Government", "and", "the", "Performer", ".", "References", "Apache", ".", "2013", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "912–928", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "From", "Key", "Points", "to", "Key", "Point", "Hierarchy", ":", "Structured", "and", "Expressive", "Opinion", "Summarization", "Arie", "Cattan1∗Lilach", "Eden2∗Yoav", "Kantor2Roy", "Bar", "-", "Haim2", "1Computer", "Science", "Department", ",", "Bar", "Ilan", "University", "2IBM", "Research", "arie.cattan", "@", "gmail.com", "{", "lilache", ",", "yoavka", ",", "roybar", "}", "@", "il.ibm.com", "Abstract", "Key", "Point", "Analysis", "(", "KPA", ")", "has", "been", "recently", "pro-", "posed", "for", "deriving", "fine", "-", "grained", "insights", "from", "collections", "of", "textual", "comments", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPA", "extracts", "the", "main", "points", "in", "the", "data", "as", "a", "list", "of", "concise", "sentences", "or", "phrases", ",", "termed", "key", "points", ",", "and", "quantifies", "their", "prevalence", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "key", "points", "are", "more", "expressive", "than", "word", "clouds", "and", "key", "phrases", ",", "making", "sense", "of", "a", "long", ",", "flat", "list", "of", "key", "points", ",", "which", "often", "express", "related", "ideas", "in", "varying", "levels", "of", "granularity", ",", "may", "still", "be", "chal-", "lenging", ".", "To", "address", "this", "limitation", "of", "KPA", ",", "we", "introduce", "the", "task", "of", "organizing", "a", "given", "set", "of", "key", "points", "into", "a", "hierarchy", ",", "according", "to", "their", "specificity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "hierarchies", "may", "be", "viewed", "as", "a", "novel", "type", "of", "Textual", "Entailment", "Graph", ".", "We", "develop", "THINK", "P", ",", "a", "high", "quality", "benchmark", "dataset", "of", "key", "point", "hierarchies", "for", "business", "and", "product", "reviews", ",", "obtained", "by", "consolidat-", "ing", "multiple", "annotations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "compare", "different", "methods", "for", "predicting", "pairwise", "relations", "be-", "tween", "key", "points", ",", "and", "for", "inferring", "a", "hierarchy", "from", "these", "pairwise", "predictions", ".", "In", "particular", ",", "for", "the", "task", "of", "computing", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "ex-", "isting", "strong", "baselines", "by", "applying", "directional", "distributional", "similarity", "methods", "to", "a", "novel", "dis-", "tributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "performance", "via", "weak", "supervi-", "sion", ".", "https", ":", "/", "/", "github.com", "/", "IBM", "/", "kpa-hierarchy", "1", "Introduction", "Many", "organizations", "face", "the", "challenge", "of", "extract-", "ing", "insights", "from", "large", "collections", "of", "textual", "com-", "ments", ",", "such", "as", "user", "reviews", ",", "survey", "responses", ",", "and", "feedback", "from", "customers", "or", "employees", ".", "Current", "text", "analytics", "tools", "summarize", "such", "datasets", "via", "word", "clouds", "(", "Heimerl", "et", "al", ".", ",", "2014", ")", "or", "key", "phrases", "(", "Hasan", "and", "Ng", ",", "2014", ";", "Merrouni", "et", "al", ".", ",", "2019", ")", ",", "which", "are", "often", "too", "crude", "to", "capture", "fine", "-", "grained", "insights", ".", "∗Equal", "contribution", ".", "Work", "done", "while", "the", "first", "author", "was", "an", "intern", "at", "IBM", "Research", ".", "Multi", "-", "document", "summarization", "methods", ",", "on", "the", "other", "hand", "(", "Chu", "and", "Liu", ",", "2019", ";", "Bražinskas", "et", "al", ".", ",", "2020a", ",", "b", ";", "Angelidis", "et", "al", ".", ",", "2021", ";", "Louis", "and", "Maynez", ",", "2022", ")", ",", "do", "not", "quantify", "the", "prevalence", "of", "each", "point", "in", "the", "summary", ",", "and", "are", "not", "well", "-", "suited", "for", "repre-", "senting", "conflicting", "views", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", ".", "Key", "Point", "Analysis", "(", "KPA", ")", "is", "a", "recent", "opinion", "summarization", "framework", "that", "aims", "to", "address", "the", "above", "limitations", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2020b", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPA", "extracts", "concise", "sentences", "and", "phrases", "termed", "Key", "Points", "(", "KPs", ")", ",", "which", "represent", "the", "most", "salient", "points", "in", "the", "data", ",", "and", "quantifies", "the", "prevalence", "of", "each", "KP", "as", "the", "number", "of", "its", "matching", "input", "sen-", "tences", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "remaining", "shortcoming", "of", "KPA", ",", "how-", "ever", ",", "is", "that", "it", "generates", "a", "flat", "list", ",", "which", "does", "not", "capture", "the", "relations", "between", "the", "key", "points", "." ]

[ "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "consider", "the", "sample", "set", "of", "key", "points", "in", "Figure", "1", "(", "left", ")", ",", "which", "was", "automatically", "extracted", "from", "reviews", "of", "one", "of", "the", "hotels", "in", "the", "Yelp", "Open", "Dataset1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "The", "results", "do", "not", "provide", "a", "high", "level", "view", "of", "the", "main", "themes", "expressed", "in", "the", "reviews", ".", "It", "is", "hard", "to", "tell", "which", "key", "points", "convey", "similar", "ideas", ",", "and", "which", "key", "points", "support", "and", "elaborate", "on", "a", "more", "general", "key", "point", ".", "As", "the", "number", "of", "key", "points", "in", "the", "summary", "increases", ",", "such", "output", "becomes", "even", "harder", "to", "consume", ".", "In", "this", "work", "we", "introduce", "Key", "Point", "Hierarchies", "(", "KPH", ")", "as", "a", "novel", "structured", "representation", "of", "opin-", "ion", "summaries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Organizing", "the", "key", "points", "in", "a", "hier-", "archy", ",", "as", "shown", "in", "Figure", "1", "(", "right", ")", ",", "allows", "the", "user", "to", "quickly", "grasp", "the", "high", "-", "level", "themes", "in", "the", "sum-", "mary", "(", "the", "hotel", "is", "beautiful", ",", "the", "shows", "are", "great", ",", "comfortable", "rooms", ",", "great", "service", ")", ",", "and", "drill", "down", "on", "each", "theme", "to", "get", "more", "fine", "-", "grained", "insights", ",", "e.g.", ",", "from", "“", "The", "personnel", "were", "great", "”", "to“check", "-", "in", "was", "quick", "and", "easy", "”", ".", "Furthermore", ",", "key", "points", "that", "(", "nearly", ")", "convey", "the", "same", "meaning", "(", "e.g.", ",", "“", "House-", "keeping", "was", "fantastic", "”", ",", "and", "“", "The", "cleaning", "crew", "is", "great", "”", ")", "are", "clustered", "together", "and", "represented", "as", "a", "1https", ":", "/", "/", "www.yelp.com", "/", "dataset912", "Figure", "1", ":", "From", "a", "flat", "list", "of", "key", "points", "to", "a", "key", "point", "hierarchy", "(", "KPH", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Nodes", "group", "together", "key", "points", "that", "roughly", "express", "the", "same", "idea", "and", "directed", "edges", "connect", "specific", "key", "points", "to", "more", "general", "ones", ".", "The", "number", "of", "matches", "for", "each", "key", "point", "is", "omitted", ".", "single", "node", "in", "the", "hierarchy", ".", "This", "structured", "output", "makes", "KPA", "results", "more", "consumable", ",", "informative", ",", "and", "easier", "to", "navigate", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPH", "can", "be", "viewed", "as", "a", "new", "type", "of", "textual", "entailment", "graph", "(", "§", "2", ")", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "develop", "THINK", "P", "(", "TreeHIerarchy", "of", "Naturally", "-", "occuring", "KeyPoints", ")", ",", "the", "first", "bench-", "mark", "dataset", "for", "Key", "Point", "Hierarchies", ",", "created", "from", "KPA", "summaries", "of", "user", "reviews", "in", "multiple", "domains", "(", "§", "4", ")", "." ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "the", "complexity", "of", "KPH", "an-", "notation", ",", "THINK", "Pwas", "created", "by", "consolidating", "multiple", "annotations", ",", "to", "ensure", "its", "high", "quality", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "explore", "different", "methods", "for", "automatic", "KPH", "construction", "from", "a", "given", "set", "of", "key", "points", "(", "§", "5", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Following", "previous", "work", "on", "entailment", "graphs", "(", "§", "2", ")", ",", "this", "is", "formulated", "as", "a", "two", "-", "step", "approach", ".", "We", "first", "compute", "local", "scores", "predicting", "the", "directional", "re-", "lation", "between", "each", "pair", "of", "key", "points", ".", "We", "then", "construct", "a", "hierarchy", "guided", "by", "these", "local", "pairwise", "predictions", ".", "We", "present", "novel", "methods", "and", "algorithmic", "im-", "provements", "for", "each", "of", "the", "above", "subtasks", ".", "In", "par-", "ticular", ",", "for", "the", "task", "of", "predicting", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "existing", "strong", "baselines", "by", "applying", "directional", "distribu-", "tional", "similarity", "methods", "to", "a", "novel", "distributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "per-", "formance", "via", "weak", "supervision", ".", "We", "release", "the", "THINK", "Pdataset", "to", "encourage", "further", "research", "on", "this", "challenging", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Overall", ",", "our", "work", "contributes", "to", "several", "lines", "of", "research", ",", "including", "key", "point", "analysis", ",", "opinion", "summarization", ",", "entailment", "graphs", ",", "and", "distribu-", "tional", "methods", "for", "natural", "language", "inference", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Fur-", "thermore", ",", "as", "we", "demonstrate", "in", "§", "4.3", ",", "our", "novel", "THINK", "Pdataset", "captures", "diverse", "types", "of", "infer-", "ences", "between", "pairs", "of", "naturally", "-", "occurring", "texts", ",", "making", "it", "an", "interesting", "resource", "for", "NLI", "research", "in", "general.2", "Background", "Key", "Point", "Analysis", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Bar", "-", "Haim", "et", "al", ".", "(", "2020a", ",", "b", ")", "proposed", "Key", "Point", "Analysis", "(", "KPA", ")", "as", "a", "summa-", "rization", "framework", "that", "provides", "both", "textual", "and", "quantitative", "summary", "of", "the", "main", "points", "in", "a", "col-", "lection", "of", "comments", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPA", "extracts", "a", "set", "of", "con-", "cise", ",", "high", "-", "quality", "sentences", "or", "phrases", ",", "termed", "Key", "Points", ",", "and", "maps", "each", "of", "the", "input", "sentences", "to", "its", "corresponding", "key", "points", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "prevalence", "of", "each", "key", "point", "is", "quantified", "as", "the", "number", "of", "its", "matching", "sentences", ".", "KPA", "summaries", "are", "more", "expressive", "than", "the", "commonly", "-", "used", "word", "clouds", "and", "key", "phrases", ",", "while", "adding", "an", "important", "quan-", "titative", "dimension", "that", "is", "missing", "from", "plain", "text", "summaries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "KPA", "algorithm", "aims", "to", "extract", "a", "set", "of", "key", "points", "that", "provide", "high", "coverage", "of", "the", "data", ",", "while", "removing", "redundancies", "." ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "employs", "two", "super-", "vised", "models", ":", "one", "for", "assessing", "the", "quality", "of", "key", "point", "candidates", ",", "and", "another", "one", "for", "computing", "a", "match", "score", "between", "a", "sentence", "and", "a", "candidate", "key", "point", ".", "Bar", "-", "Haim", "et", "al", ".", "(", "2021", ")", "adapted", "KPA", "to", "business", "reviews", ",", "by", "introducing", "several", "exten-", "sions", "to", "the", "original", "algorithm", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "particular", ",", "they", "integrated", "sentiment", "analysis", "into", "KPA", ",", "creating", "separate", "summaries", "for", "positive", "and", "negative", "sen-", "tences", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "also", "developed", "a", "specialized", "key", "point", "quality", "model", "for", "the", "business", "reviews", "domain", ".", "Entailment", "Graphs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "Most", "of", "the", "prior", "work", "on", "entailment", "graphs", "has", "focused", "on", "learning", "entail-", "ment", "relations", "between", "predicates", ",", "while", "satisfying", "some", "global", "constraints", "such", "as", "transitivity", "(", "Berant", "et", "al", ".", ",", "2010", ")", ",", "soft", "transitivity", "(", "Chen", "et", "al", ".", ",", "2022", ")", ",", "and", "other", "types", "of", "soft", "constraints", "(", "Hosseini", "et", "al", ".", ",", "2018", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Levy", "et", "al", ".", "(", "2014", ")", "extended", "the", "notion", "of", "entailment", "graphs", "to", "instantiated", "predicates", ".", "Most", "similar", "to", "our", "Key", "Point", "Hierarchies", "are", "en-913", "tailment", "graphs", "over", "text", "fragments", ",", "introduced", "by", "Kotlerman", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Their", "motivating", "scenario", "was", "summarizing", "customer", "feedback", ",", "for", "which", "they", "developed", "a", "benchmark", "dataset", ".", "However", ",", "the", "text", "fragments", "in", "this", "dataset", "were", "extracted", "man-", "ually", ".", "The", "approach", "proposed", "in", "the", "current", "work", ",", "which", "first", "finds", "the", "most", "salient", "points", "in", "the", "data", "using", "KPA", ",", "and", "then", "constructs", "a", "hierarchy", "from", "the", "extracted", "key", "points", ",", "allows", "fully", "-", "automatic", "generation", "of", "structured", "summaries", "for", "large", "collec-", "tions", "of", "opinions", ",", "views", "or", "arguments", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Construct-", "ing", "hierarchies", "over", "automatically", "-", "extracted", "key", "points", ",", "which", "are", "often", "noisy", "and", "imperfect", ",", "rep-", "resents", "a", "more", "realistic", "scenario", ",", "and", "makes", "both", "manual", "annotation", "of", "KPHs", "and", "their", "automatic", "construction", "more", "challenging", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Key", "Point", "Hierarchies", "Figure", "1", "illustrates", "the", "transformation", "of", "a", "flat", "key", "point", "list", "into", "a", "Key", "Point", "Hierarchy", "(", "KPH", ")", "." ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Formally", ",", "given", "a", "list", "of", "key", "points", "K=", "{", "k1", ",", "k2", ",", "...", ",", "k", "n", "}", ",", "we", "define", "a", "KPH", "H=", "(", "V", ",", "E", ")", "as", "a", "directed", "forest", ",", "that", "is", ",", "His", "a", "Directed", "Acyclic", "Graph", "(", "DAG", ")", "where", "each", "node", "has", "no", "more", "than", "one", "parent", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "vertices", "Vare", "clusters", "of", "key", "points", "{", "C1", ",", "...", ",", "C", "m", "}", "that", "convey", "similar", "ideas", ",", "and", "the", "directed", "edges", "ϵij∈", "Erepresent", "hierarchical", "rela-", "tions", "between", "clusters", "CiandCj", ".", "Similar", "to", "Kotler-", "man", "et", "al", ".", "(", "2015", ")", ",", "a", "directed", "edge", "Ci−", "→Cjindi-", "cates", "that", "the", "key", "points", "in", "Ciprovide", "elaboration", "and", "support", "for", "the", "key", "points", "in", "Cj", ".", "By", "transitivity", ",", "this", "relation", "extends", "to", "any", "two", "clusters", "CiandCk", "such", "that", "there", "is", "a", "directed", "path", "in", "Hfrom", "Cito", "Ck", ",", "which", "we", "denote", "as", "Ci", ";", "Ck", ".", "Accordingly", ",", "we", "define", "R", "(", "H", ")", "as", "the", "set", "of", "directional", "relations", "between", "pairs", "of", "key", "points", "(", "x", ",", "y", ")", "that", "can", "be", "de-", "rived", "from", "Has", ":", "R", "(", "H", ")", "=", "{", "(", "x", ",", "y", ")", ")", "|Cx", "=", "Cy∨Cx", ";", "Cy", "}", "(", "1", ")", "where", "Cx", ",", "Cy∈", "V", "are", "the", "clusters", "of", "xandyre-", "spectively", ".", "Considering", "the", "example", "in", "Figure", "1", ",", "R", "(", "H", ")", "includes", "the", "relations", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "personnel", "were", "great", "”", ",", "“", "House-", "keeping", "was", "fantastic", "”", "−", "→“Friendly", "service", "all", "around", "”", ",", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "cleaning", "crew", "is", "great", "”", ",", "and", "so", "on", ".", "We", "chose", "a", "hierarchical", "representation", "over", "a", "more", "general", "graph", "structure", "since", "it", "results", "in", "a", "simpler", "output", "that", "is", "easier", "to", "consume", ".", "In", "addi-", "tion", ",", "this", "greatly", "simplified", "the", "annotation", "process", ".", "We", "found", "that", "hierarchical", "representation", "workswell", "in", "practice", ",", "as", "the", "vast", "majority", "of", "the", "nodes", "in", "our", "dataset", "did", "not", "have", "more", "than", "one", "potential", "parent", ".", "This", "is", "in", "line", "with", "previous", "work", ",", "which", "suggested", "that", "entailment", "graphs", "tend", "to", "have", "a", "tree", "-", "like", "structure", "(", "Berant", "et", "al", ".", ",", "2012", ")", ".", "4", "T", "HINK", "P", ":", "A", "Dataset", "for", "Key", "Point", "Hierarchies", "In", "this", "section", "we", "present", "THINK", "P", ",", "a", "benchmark", "dataset", "of", "key", "point", "hierarchies", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "build", "THINK", "P", ",", "we", "first", "apply", "Key", "Point", "Analysis", "to", "reviews", "of", "busi-", "nesses", "and", "products", "from", "multiple", "domains", "(", "§", "4.1", ")", "." ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "KPH", "is", "then", "constructed", "manually", "from", "the", "set", "of", "key", "points", "extracted", "for", "each", "business", "or", "prod-", "uct", "(", "§", "4.2", ")", "." ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "provide", "statistics", "on", "the", "resulting", "dataset", ",", "as", "well", "as", "qualitative", "analysis", "of", "the", "types", "of", "inferences", "it", "includes", "(", "§", "4.3", ")", ".", "4.1", "Key", "Point", "Set", "Generation", "The", "first", "step", "in", "creating", "the", "dataset", "was", "to", "run", "KPA", "on", "the", "reviews", "of", "selected", "businesses", "and", "products", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "implementation", "follows", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", ",", "who", "suggested", "several", "extensions", "of", "KPA", "for", "analyzing", "business", "reviews.2For", "each", "business", ",", "two", "separate", "summaries", "of", "positive", "and", "negative", "key", "points", "are", "created", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "obtain", "a", "diverse", "dataset", ",", "we", "considered", "three", "different", "domains", ",", "from", "two", "data", "sources", ":", "Yelp", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "This", "dataset", "includes", "7", "M", "written", "business", "reviews", ",", "where", "each", "business", "may", "be", "classified", "into", "multiple", "categories", ",", "in", "varying", "levels", "of", "granular-", "ity", ".", "We", "apply", "KPA", "to", "a", "sample", "of", "businesses", "that", "include", "at", "least", "one", "of", "the", "following", "categories", ":", "RESTAURANTS", ",", "HOTELS", ",", "and", "ART", "&", "E", "NTER", "-", "TAINMENT", ",", "and", "had", "at", "least", "1,000", "reviews", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "KPH", "annotation", ",", "we", "selected", "four", "restaurants", "(", "which", "we", "refer", "to", "as", "the", "RESTAURANTS", "domain", ")", ",", "and", "four", "businesses", "categorized", "as", "ART", "&", "E", "N-", "TERTAINMENT", ",", "out", "of", "which", "three", "were", "hotels", "(", "hereafter", ",", "the", "Hotels", "&", "Entertainment", "domain", ",", "or", "HOTELS", "for", "brevity", ")", "." ]

[ "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Each", "domain", "includes", "two", "positive", "and", "two", "negative", "KPA", "summaries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "Amazon3.This", "dataset", "includes", "over", "130", "M", "cus-", "tomer", "reviews", "for", "a", "huge", "collection", "of", "products", "inAmazon.com", "across", "a", "wide", "variety", "of", "domains", ".", "2Specifically", ",", "our", "implementation", "follows", "their", "RKPA", "-", "FT", "configuration", ",", "except", "that", "we", "extract", "the", "key", "points", "for", "each", "business", "independently", ",", "and", "allow", "each", "sentence", "to", "match", "multiple", "key", "points", ".", "Eventually", ",", "we", "annotated", "a", "KPH", "for", "three", "positive", "and", "one", "negative", "KPA", "summaries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "4.2", "KPH", "Annotation", "Annotating", "complex", "structures", "such", "as", "KPHs", "is", "a", "challenging", "task", ",", "since", "it", "involves", "global", ",", "inter-", "dependent", "decisions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "the", "annotator", "needs", "to", "consider", "different", "types", "of", "hierarchical", "relations", "that", "may", "hold", "between", "the", "key", "points", ",", "as", "we", "further", "discuss", "in", "Section", "4.3", ".", "Finally", ",", "user", "re-", "views", "make", "extensive", "use", "of", "informal", "and", "figurative", "language", ".", "For", "example", ",", "“", "The", "food", "is", "outrageous", "!", "”", "should", "be", "interpreted", "as", "great", "food", ";", "“", "Elevators", "should", "go", "up", "and", "down", ",", "not", "diagonal", "”", "means", "that", "the", "elevators", "were", "scary", "and", "“", "Internet", "was", "a", "joke", "to", "get", "to", "work", "”", "indicates", "a", "poor", "WiFi", "signal", ".", "To", "overcome", "these", "challenges", "and", "obtain", "a", "high-", "quality", "dataset", ",", "three", "annotators", "individually", "con-", "structed", "a", "KPH", "for", "each", "KPA", "summary", "(", "§", "4.2.1", ")", ";", "The", "annotators", "then", "met", "to", "resolve", "their", "disagree-", "ments", "and", "reach", "a", "consolidated", "KPH", "(", "§", "4.2.2", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ "4.2.1", "Creating", "an", "Initial", "KPH", "To", "construct", "an", "initial", "KPH", ",", "annotators", "were", "shown", "the", "key", "points", "one", "by", "one", "in", "a", "descending", "order", "according", "to", "the", "number", "of", "their", "matched", "sentences", "." ]

[ "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "key", "point", ",", "they", "first", "decided", "whether", "it", "conveys", "the", "same", "idea", "as", "any", "previously", "seen", "key", "point", ",", "in", "which", "case", "it", "was", "added", "to", "an", "existing", "cluster", ".", "If", "not", ",", "a", "new", "node", "was", "added", "to", "the", "KPH", ",", "and", "the", "annotator", "dragged", "it", "to", "its", "right", "position", "in", "the", "hierarchy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Since", "key", "points", "with", "many", "matches", "tend", "to", "be", "more", "general", ",", "the", "key", "point", "ordering", "facilitated", "top", "-", "down", "construction", "of", "the", "KPH", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "At", "any", "point", "in", "the", "annotation", "process", ",", "annotators", "had", "a", "complete", "view", "of", "the", "KPH", "constructed", "so", "far", ",", "and", "could", "adjust", "it", "by", "modifying", "previous", "decisions", ",", "including", "both", "clustering", "and", "hierarchical", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Each", "KPH", "was", "annotated", "separately", "by", "three", "of", "the", "authors", "and", "took", "about", "one", "hour", "to", "complete", "per", "annotator", "." ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "annotation", "guidelines", "are", "detailed", "in", "Appendix", "A.1", ".", "Since", "the", "key", "points", "were", "extracted", "automati-", "cally", ",", "some", "of", "them", "did", "not", "satisfy", "the", "desired", "prop-", "erties", "of", "a", "key", "point", "-", "a", "concise", "and", "self", "contained", "sentence", "or", "phrase", "that", "discusses", "a", "single", "point", "with", "a", "certain", "polarity", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", ".", "To", "avoid", "noise", "in", "THINK", "P", ",", "annotators", "could", "mark", "such", "badkey", "points", "as", "candidates", "for", "removal", "from", "the", "final", "KPH", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "As", "our", "annotation", "tool", ",", "we", "used", "CoRefi", "(", "Born-", "stein", "et", "al", ".", ",", "2020", ")", ",", "an", "interface", "for", "cross", "-", "document", "coreference", "annotation", "with", "Cattan", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "’s", "extension", "for", "annotating", "a", "forest", "of", "clusters", ",", "which", "we", "adapted", "to", "handle", "key", "points", "(", "see", "Ap-", "pendix", "A.2", ")", ".", "4.2.2", "KPH", "Consolidation", "To", "obtain", "the", "final", "KPHs", ",", "the", "three", "annotators", "met", "to", "discuss", "and", "resolve", "the", "differences", "in", "their", "indi-", "vidual", "KPHs", "annotations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "This", "is", "a", "complex", "pro-", "cess", "because", "both", "clusters", "and", "the", "relations", "be-", "tween", "them", "can", "differ", ".", "We", "therefore", "separated", "the", "consolidation", "process", "into", "two", "subsequent", "stages", ":", "clustering", "and", "hierarchy", ".", "In", "the", "first", "phase", ",", "following", "the", "reviewer", "mode", "in", "CoRefi", "(", "Bornstein", "et", "al", ".", ",", "2020", ")", ",", "annotators", "were", "shown", "one", "key", "point", "at", "a", "time", "with", "their", "origi-", "nal", "clustering", "decisions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "case", "of", "disagreement", ",", "the", "annotators", "discussed", "and", "reached", "a", "joint", "deci-", "sion", ",", "which", "automatically", "modified", "their", "original", "KPH", "accordingly", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "At", "the", "end", "of", "this", "stage", ",", "the", "ini-", "tial", "KPH", "of", "each", "of", "the", "annotators", "was", "modified", "to", "include", "the", "exact", "same", "nodes", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "second", "phase", ",", "since", "each", "key", "point", "has", "a", "single", "parent", ",", "we", "could", "easily", "identify", "the", "remaining", "disagreements", "by", "comparing", "the", "parent", "of", "each", "node", "across", "the", "different", "annotators", ".", "To", "support", "this", "consolidation", "phase", ",", "we", "enhanced", "CoRefi", "with", "the", "ability", "to", "iden-", "tify", "and", "highlight", "both", "clustering", "and", "hierarchy", "disagreements", "between", "any", "number", "of", "annotators", "(", "see", "Appendix", "A.3", "for", "more", "details", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Consolidating", "multiple", "annotations", "was", "also", "ef-", "ficient", "due", "to", "the", "hierarchical", "structure", "of", "the", "KPH", "and", "took", "about", "an", "hour", "per", "KPH", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "4.2.3", "Dataset", "Quality", "Assessment", "To", "verify", "the", "quality", "of", "the", "resulting", "dataset", ",", "we", "asked", "two", "additional", "annotators", "to", "annotate", "and", "consolidate", "a", "portion", "of", "THINK", "P", "(", "3RESTAU", "-", "RANTS", ",", "2HOTEL", "and", "2", "PC", ")", ".4We", "then", "evaluated", "their", "individual", "and", "consolidated", "KPHs", "against", "our", "consolidated", "annotation", ",", "as", "follows", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "each", "do-", "main", ",", "we", "compared", "the", "two", "sets", "of", "annotated", "KPHs", "by", "taking", "the", "union", "of", "the", "KP", "relations", "induced", "by", "the", "KPHs", "in", "each", "set", "(", "Eq", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1", ")", ",", "and", "computing", "the", "F1", "score", "over", "the", "two", "resulting", "sets", "of", "relations", ".", "The", "4See", "Appendix", "A.4", "for", "more", "details", "about", "annotators", "train-", "ing.915", "REST", "HOTEL", "PC", "Total", "#", "KPHs", "4", "4", "4", "12", "#", "Key", "points", "181", "208", "128", "517", "#", "Filtered", "KPs", "21", "17", "48", "86", "#", "R", "(", "H", ")", "850", "302", "266", "1,418", "Table", "1", ":", "Statistics", "of", "THINK", "P.R", "(", "H", ")", "is", "the", "set", "of", "key", "point", "relations", "that", "can", "be", "derived", "from", "a", "KPH", "H", "(", "§3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "B-MetricName", "I-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "B-MetricName", "I-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ "final", "F1", "was", "obtained", "by", "macro", "-", "averaging", "over", "the", "three", "domains", "." ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "annotators", "’", "performance", "after", "consolida-", "tion", "reached", "an", "F1", "of", "0.756", ",", "indicating", "substan-", "tial", "agreement.5Furthermore", ",", "consolidation", "was", "shown", "to", "increase", "individual", "performance", "by", "5", "-", "6", "points", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.3", "Dataset", "Properties", "Table", "1", "shows", "some", "statistics", "for", "the", "THINK", "P", "dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]

[ "Overall", ",", "THINK", "Pincludes", "12", "KPHs", ",", "517", "key", "points", ",", "and", "1,418", "key", "points", "relations", "(", "R", "(", "H", ")", ")", "out", "of", "the", "total", "24,430", "key", "point", "pairs", "." ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "its", "size", ",", "we", "did", "not", "split", "THINK", "Pinto", "development", "and", "test", "sets", ",", "but", "rather", "used", "the", "entire", "dataset", "for", "evaluation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "described", "in", "Section", "4.2.1", ",", "during", "the", "annotation", ",", "we", "filter", "a", "relatively", "small", "number", "of", "key", "points", "(", "14", "%", ")", ",", "mostly", "from", "the", "PCdomain", ".", "This", "is", "mainly", "because", "the", "key", "point", "quality", "model", "that", "we", "used", "was", "not", "trained", "on", "this", "domain", ".", "From", "a", "qualitative", "perspective", ",", "THINK", "Phas", "sev-", "eral", "appealing", "properties", "that", "make", "it", "a", "valuable", "benchmark", "for", "NLI", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "First", ",", "recall", "that", "the", "KPA", "algo-", "rithm", "aims", "to", "remove", "similar", "key", "points", "to", "avoid", "re-", "dundancy", "in", "the", "summary", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2020b", ")", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Hence", ",", "remaining", "equivalent", "key", "points", "in", "THINK", "P", "are", "mostly", "non", "-", "trivial", "paraphrases", "that", "are", "challeng-", "ing", "to", "detect", "(", "e.g.", ",", "“", "Took", "forever", "to", "get", "our", "room", "”", "↔“Lines", "to", "check", "in", "are", "ridiculous", "”", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", ",", "hierarchical", "relations", "between", "key", "points", "represent", "diverse", "types", "of", "inferences", ".", "Table", "2", "shows", "a", "few", "examples", "of", "common", "relations", "we", "observed", "by", "ana-", "lyzing", "a", "sample", "from", "the", "dataset", ".", "Finally", ",", "THINK", "P", "comprises", "naturally", "-", "occurring", "texts", "and", "relations", ",", "coming", "from", "real", "-", "world", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Automatic", "KPH", "Construction", "We", "use", "a", "two", "-", "step", "approach", "to", "automatically", "build", "a", "KPH", "from", "a", "set", "of", "key", "points", "." ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "first", "step", ",", "we", "predict", "directional", "scores", "between", "all", "pairs", "of", "5We", "do", "not", "report", "Kappa", "because", "decisions", "are", "mutually", "dependent.key", "points", "(", "§", "5.1", ")", ".", "In", "the", "second", "step", ",", "we", "construct", "a", "hierarchy", "based", "on", "the", "local", "scores", "(", "§", "5.2", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O" ]

[ "5.1", "Scoring", "Pairwise", "Key", "Point", "Relations", "Given", "a", "pair", "of", "key", "points", "(", "i", ",", "j", ")", ",", "we", "aim", "to", "pre-", "dict", "whether", "a", "directional", "relation", "i−", "→jholds", "between", "iandj", ",", "by", "computing", "a", "likelihood", "score", "s", "(", "i", ",", "j", ")", "∈", "[", "0,1", "]", "." ]

[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "experimented", "with", "both", "exist-", "ing", "baselines", "and", "new", "methods", "we", "developed", "for", "this", "task", ".", "Due", "to", "the", "size", "of", "THINK", "P", ",", "it", "was", "not", "used", "to", "fine", "-", "tune", "the", "scoring", "models", "(", "§", "4.3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", ".", "Identifying", "directional", "relations", "be-", "tween", "two", "key", "points", "is", "closely", "related", "to", "two", "exist-", "ing", "tasks", ":", "Textual", "Entailment", ",", "also", "known", "as", "Natu-", "ral", "Language", "Inference", "(", "NLI", ")", "(", "Dagan", "et", "al", ".", ",", "2007", ")", "and", "matching", "arguments", "to", "key", "points", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2020a", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Accordingly", ",", "we", "implemented", "two", "baselines", ":", "(", "1", ")", "NLI", ",", "a", "RoBERTa", "model", "(", "Liu", "et", "al", ".", ",", "2019", ")", "fine", "-", "tuned", "on", "the", "MNLI", "dataset", "(", "Williams", "et", "al", ".", ",", "2018", ")", "to", "predict", "whether", "ientails", "j6and", "(", "2", ")", "KPA", "-", "Match", ",", "a", "RoBERTa", "model", "trained", "on", "the", "ArgKP", "dataset", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2020a", ")", "to", "predict", "whether", "imatches", "j", ",", "following", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", "’s", "implementation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Directional", "Distributional", "Similarity", ".", "Geffet", "and", "Dagan", "(", "2005", ")", "introduced", "the", "distributional", "inclusion", "hypothesis", "for", "lexical", "entailment", "(", "Gef-", "fet", "and", "Dagan", ",", "2004", ")", ",", "which", "suggests", "that", "the", "context", "surrounding", "an", "entailing", "word", "w1is", "nat-", "urally", "expected", "to", "occur", "also", "with", "the", "entailed", "word", "w2", ".", "Specifically", ",", "for", "each", "word", "w", ",", "they", "built", "a", "sparse", "feature", "vector", "where", "the", "value", "of", "the", "i", "-", "th", "entry", "is", "the", "PMI", "of", "the", "i", "-", "th", "word", "in", "the", "dictionary", "with", "w", ".", "Many", "distributional", "similar-", "ity", "metrics", "have", "been", "proposed", "to", "predict", "direc-", "tional", "relations", "such", "as", "hyponymy", "between", "a", "pair", "of", "words", ",", "based", "on", "their", "distributional", "feature", "vec-", "tors", ".", "Among", "these", "methods", "are", "WeedsPrec", "(", "Weeds", "and", "Weir", ",", "2003", ")", ",", "BInc", "(", "Szpektor", "and", "Dagan", ",", "2008", ")", ",", "ClarkeDE", "(", "Clarke", ",", "2009", ")", "and", "APinc", "(", "Kotlerman", "et", "al", ".", ",", "2009", ")", ".", "In", "this", "work", ",", "we", "argue", "that", "this", "distributional", "inclusion", "hypothesis", "may", "be", "extended", "to", "identify", "directional", "relations", "between", "two", "key", "points", ".", "In-", "deed", ",", "if", "i−", "→j", ",", "it", "is", "likely", "that", "an", "input", "sentence", "that", "matches", "the", "key", "point", "iwill", "also", "match", "j", ".", "For", "example", ",", "the", "sentence", "“", "The", "beds", "were", "really", "comfortable", ",", "I", "literally", "knocked", "out", "as", "soon", "as", "my", "head", "touched", "the", "pillow", ".", "”", "matches", "both", "“", "The", "beds", "6https", ":", "/", "/", "huggingface.co", "/", "roberta-large-mnli916", "Relation", "Type", "Examples", "Support", "/", "ElaborationHousekeeping", "needs", "worked", "on", "←", "−The", "beds", "were", "n’t", "even", "made", "right", "The", "room", "was", "poorly", "maintained", "←", "−The", "air", "conditioning", "was", "not", "functioning", "right", ".", "The", "device", "itself", "is", "so", "difficult", "to", "use", "←", "−Transferring", "data", "was", "a", "nightmare", "!", "Customer", "service", "is", "a", "joke", "←", "−No", "help", "moving", "rooms", "Part", "-", "ofThehardware", "is", "fantastic", "←", "−Sound", "is", "surprisingly", "good", "Thetheatre", "is", "great", "←", "−Theentrance", "is", "absolutely", "beautiful", ".", "IS", "-", "AThetoiletries", "they", "offer", "are", "the", "worst", "←", "−not", "even", "good", "shampoo", "in", "room", "Food", "varieties", "was", "very", "limited", "←", "−Desert", "selection", "was", "below", "average", "as", "well", "Table", "2", ":", "Examples", "of", "relations", "between", "key", "points", "in", "T", "HINK", "P", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "were", "awesome", "”", "and“The", "rooms", "are", "comfortable", "”", ".", "Therefore", ",", "we", "construct", "a", "feature", "vector", "for", "each", "key", "point", "k", ",", "whose", "length", "is", "equal", "to", "the", "number", "of", "input", "sentences", ".", "The", "value", "at", "the", "i", "-", "th", "position", "in", "this", "vector", "is", "the", "likelihood", "that", "the", "i", "-", "th", "sen-", "tence", "matches", "k", ",", "as", "predicted", "by", "the", "KPA", "match-", "ing", "model", "(", "§", "4.1", ")", ".", "Then", ",", "we", "apply", "the", "aforemen-", "tioned", "distributional", "similarity", "metrics", "to", "predict", "a", "directional", "score", "s", "(", "i", ",", "j", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "only", "report", "the", "perfor-", "mance", "of", "APinc", "as", "it", "slightly", "outperformed", "other", "metrics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Additionally", ",", "we", "implemented", "a", "simple", "variant", "of", "WeedsPrec", ",", "in", "which", "the", "entries", "in", "the", "feature", "vectors", "are", "binary", "(", "match", "/", "no", "match", ")", ".", "This", "metric", ",", "termed", "Binary", "Inclusion", "(", "BinInc", ")", ",", "com-", "putes", "the", "ratio", "between", "the", "number", "of", "sentences", "matched", "by", "KPA", "to", "both", "iandjand", "the", "number", "sentences", "matched", "to", "i", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Intuitively", ",", "when", "most", "of", "the", "sentences", "that", "were", "mapped", "to", "iwere", "also", "mapped", "to", "j", ",", "it", "is", "a", "strong", "indication", "that", "i−", "→j", ".", "Combining", "NLI", "with", "Distributional", "Methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O" ]

[ "As", "further", "discussed", "in", "Section", "6", ",", "we", "empirically", "found", "that", "the", "NLI", "model", "and", "the", "distributional", "methods", "have", "complementary", "strengths", ".", "The", "NLI", "model", "performs", "better", "on", "RESTAURANTS", ",", "whereas", "the", "distributional", "methods", "perform", "better", "on", "the", "HOTEL", "andPCdomains", ".", "Furthermore", ",", "even", "within", "each", "domain", ",", "those", "two", "methods", "produce", "very", "dif-", "ferent", "rankings", ",", "as", "indicated", "by", "a", "low", "Spearman", "correlation", "between", "their", "output", "scores", "(", "see", "Ap-", "pendix", "C", "for", "more", "details", ")", ".", "To", "take", "advantage", "of", "the", "strengths", "of", "both", "ap-", "proaches", ",", "we", "explored", "two", "alternatives", "for", "com-", "bining", "BinInc", ",", "the", "best", "-", "performing", "distributional", "method", "(", "as", "shown", "in", "Section", "6", ")", ",", "with", "NLI", ":", "1.Averaging", "the", "output", "scores", "of", "NLI", "and", "Bin-", "Inc", "(", "denoted", "NLI+BinInc", "-", "Avg", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.Fine", "-", "tuning", "the", "NLI", "model", "on", "weak", "la-", "bels", "created", "by", "the", "BinInc", "model", "(", "denotedNLI+BinInc", "-", "WL", ")", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", ",", "we", "first", "apply", "theBinInc", "method", "to", "a", "large", "number", "of", "unla-", "beled", "KPA", "summaries", "and", "obtain", "local", "scores", "between", "all", "pairs", "of", "key", "points", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "con-", "vert", "these", "pairwise", "scores", "to", "the", "NLI", "format", ",", "where", "we", "consider", "all", "pairs", "above", "some", "thresh-", "old", "as", "entailment", "and", "the", "others", "as", "neutral", ".", "Finally", ",", "we", "fine", "-", "tune", "the", "NLI", "model", "on", "this", "automatically", "-", "generated", "training", "data", "and", "use", "the", "resulting", "model", "to", "predict", "the", "local", "scores", "s", "(", "i", ",", "j", ")", "onTHINK", "P", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O" ]

[ "Implementation", "details", "and", "statistics", "on", "the", "silver", "data", "are", "detailed", "in", "Appendix", "B", ".", "5.2", "Hierarchy", "Construction", "We", "proceed", "to", "construct", "a", "KPH", "by", "determining", "its", "semantic", "clusters", "and", "the", "hierarchical", "relations", "between", "them", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]