Datasets:

midas
/

semeval2010

Modalities:

Text

Size:

< 1K

ArXiv:

Libraries:

Datasets

Dataset card Viewer Files Files and versions Community

Dataset Viewer

Auto-converted to Parquet

Full Screen Viewer

Full Screen

Subset (3)

extraction · 244 rows

Split (2)

train · 144 rows

id stringlengths 4 4	document sequence	doc_bio_tags sequence
H-41	[ "HITS", "on", "the", "Web:", "How", "does", "it", "Compare?", "Marc", "Najork", "Microsoft", "Research", "1065", "La", "Avenida", "Mountain", "View,", "CA,", "USA", "[email protected]", "Hugo", "Zaragoza", "∗", "Yahoo!", "Research", "Barcelona", "Ocata", "1", "Barcelona", "08003,", "Spain", "[email protected]", "Michael", "Taylor", "Microsoft", "Research", "7", "J", "J", "Thompson", "Ave", "Cambridge", "CB3", "0FB,", "UK", "[email protected]", "ABSTRACT", "This", "paper", "describes", "a", "large-scale", "evaluation", "of", "the", "effectiveness", "of", "HITS", "in", "comparison", "with", "other", "link-based", "ranking", "algorithms,", "when", "used", "in", "combination", "with", "a", "state-ofthe-art", "text", "retrieval", "algorithm", "exploiting", "anchor", "text.", "We", "quantified", "their", "effectiveness", "using", "three", "common", "performance", "measures:", "the", "mean", "reciprocal", "rank,", "the", "mean", "average", "precision,", "and", "the", "normalized", "discounted", "cumulative", "gain", "measurements.", "The", "evaluation", "is", "based", "on", "two", "large", "data", "sets:", "a", "breadth-first", "search", "crawl", "of", "463", "million", "web", "pages", "containing", "17.6", "billion", "hyperlinks", "and", "referencing", "2.9", "billion", "distinct", "URLs;", "and", "a", "set", "of", "28,043", "queries", "sampled", "from", "a", "query", "log,", "each", "query", "having", "on", "average", "2,383", "results,", "about", "17", "of", "which", "were", "labeled", "by", "judges.", "We", "found", "that", "HITS", "outperforms", "PageRank,", "but", "is", "about", "as", "effective", "as", "web-page", "in-degree.", "The", "same", "holds", "true", "when", "any", "of", "the", "link-based", "features", "are", "combined", "with", "the", "text", "retrieval", "algorithm.", "Finally,", "we", "studied", "the", "relationship", "between", "query", "specificity", "and", "the", "effectiveness", "of", "selected", "features,", "and", "found", "that", "link-based", "features", "perform", "better", "for", "general", "queries,", "whereas", "BM25F", "performs", "better", "for", "specific", "queries.", "Categories", "and", "Subject", "Descriptors", "H.3.3", "[Information", "Search", "and", "Retrieval]:", "Information", "Storage", "and", "Retrieval-search", "process,", "selection", "process", "General", "Terms", "Algorithms,", "Measurement,", "Experimentation", "1.", "INTRODUCTION", "Link", "graph", "features", "such", "as", "in-degree", "and", "PageRank", "have", "been", "shown", "to", "significantly", "improve", "the", "performance", "of", "text", "retrieval", "algorithms", "on", "the", "web.", "The", "HITS", "algorithm", "is", "also", "believed", "to", "be", "of", "interest", "for", "web", "search;", "to", "some", "degree,", "one", "may", "expect", "HITS", "to", "be", "more", "informative", "that", "other", "link-based", "features", "because", "it", "is", "query-dependent:", "it", "tries", "to", "measure", "the", "interest", "of", "pages", "with", "respect", "to", "a", "given", "query.", "However,", "it", "remains", "unclear", "today", "whether", "there", "are", "practical", "benefits", "of", "HITS", "over", "other", "link", "graph", "measures.", "This", "is", "even", "more", "true", "when", "we", "consider", "that", "modern", "retrieval", "algorithms", "used", "on", "the", "web", "use", "a", "document", "representation", "which", "incorporates", "the", "document\"s", "anchor", "text,", "i.e.", "the", "text", "of", "incoming", "links.", "This,", "at", "least", "to", "some", "degree,", "takes", "the", "link", "graph", "into", "account,", "in", "a", "query-dependent", "manner.", "Comparing", "HITS", "to", "PageRank", "or", "in-degree", "empirically", "is", "no", "easy", "task.", "There", "are", "two", "main", "difficulties:", "scale", "and", "relevance.", "Scale", "is", "important", "because", "link-based", "features", "are", "known", "to", "improve", "in", "quality", "as", "the", "document", "graph", "grows.", "If", "we", "carry", "out", "a", "small", "experiment,", "our", "conclusions", "won\"t", "carry", "over", "to", "large", "graphs", "such", "as", "the", "web.", "However,", "computing", "HITS", "efficiently", "on", "a", "graph", "the", "size", "of", "a", "realistic", "web", "crawl", "is", "extraordinarily", "difficult.", "Relevance", "is", "also", "crucial", "because", "we", "cannot", "measure", "the", "performance", "of", "a", "feature", "in", "the", "absence", "of", "human", "judgments:", "what", "is", "crucial", "is", "ranking", "at", "the", "top", "of", "the", "ten", "or", "so", "documents", "that", "a", "user", "will", "peruse.", "To", "our", "knowledge,", "this", "paper", "is", "the", "first", "attempt", "to", "evaluate", "HITS", "at", "a", "large", "scale", "and", "compare", "it", "to", "other", "link-based", "features", "with", "respect", "to", "human", "evaluated", "judgment.", "Our", "results", "confirm", "many", "of", "the", "intuitions", "we", "have", "about", "link-based", "features", "and", "their", "relationship", "to", "text", "retrieval", "methods", "exploiting", "anchor", "text.", "This", "is", "reassuring:", "in", "the", "absence", "of", "a", "theoretical", "model", "capable", "of", "tying", "these", "measures", "with", "relevance,", "the", "only", "way", "to", "validate", "our", "intuitions", "is", "to", "carry", "out", "realistic", "experiments.", "However,", "we", "were", "quite", "surprised", "to", "find", "that", "HITS,", "a", "query-dependent", "feature,", "is", "about", "as", "effective", "as", "web", "page", "in-degree,", "the", "most", "simpleminded", "query-independent", "link-based", "feature.", "This", "continues", "to", "be", "true", "when", "the", "link-based", "features", "are", "combined", "with", "a", "text", "retrieval", "algorithm", "exploiting", "anchor", "text.", "The", "remainder", "of", "this", "paper", "is", "structured", "as", "follows:", "Section", "2", "surveys", "related", "work.", "Section", "3", "describes", "the", "data", "sets", "we", "used", "in", "our", "study.", "Section", "4", "reviews", "the", "performance", "measures", "we", "used.", "Sections", "5", "and", "6", "describe", "the", "PageRank", "and", "HITS", "algorithms", "in", "more", "detail,", "and", "sketch", "the", "computational", "infrastructure", "we", "employed", "to", "carry", "out", "large", "scale", "experiments.", "Section", "7", "presents", "the", "results", "of", "our", "evaluations,", "and", "Section", "8", "offers", "concluding", "remarks.", "2.", "RELATED", "WORK", "The", "idea", "of", "using", "hyperlink", "analysis", "for", "ranking", "web", "search", "results", "arose", "around", "1997,", "and", "manifested", "itself", "in", "the", "HITS", "[16,", "17]", "and", "PageRank", "[5,", "21]", "algorithms.", "The", "popularity", "of", "these", "two", "algorithms", "and", "the", "phenomenal", "success", "of", "the", "Google", "search", "engine,", "which", "uses", "PageRank,", "have", "spawned", "a", "large", "amount", "of", "subsequent", "research.", "There", "are", "numerous", "attempts", "at", "improving", "the", "effectiveness", "of", "HITS", "and", "PageRank.", "Query-dependent", "link-based", "ranking", "algorithms", "inspired", "by", "HITS", "include", "SALSA", "[19],", "Randomized", "HITS", "[20],", "and", "PHITS", "[7],", "to", "name", "a", "few.", "Query-independent", "link-based", "ranking", "algorithms", "inspired", "by", "PageRank", "include", "TrafficRank", "[22],", "BlockRank", "[14],", "and", "TrustRank", "[11],", "and", "many", "others.", "Another", "line", "of", "research", "is", "concerned", "with", "analyzing", "the", "mathematical", "properties", "of", "HITS", "and", "PageRank.", "For", "example,", "Borodin", "et", "al.", "[3]", "investigated", "various", "theoretical", "properties", "of", "PageRank,", "HITS,", "SALSA,", "and", "PHITS,", "including", "their", "similarity", "and", "stability,", "while", "Bianchini", "et", "al.", "[2]", "studied", "the", "relationship", "between", "the", "structure", "of", "the", "web", "graph", "and", "the", "distribution", "of", "PageRank", "scores,", "and", "Langville", "and", "Meyer", "examined", "basic", "properties", "of", "PageRank", "such", "as", "existence", "and", "uniqueness", "of", "an", "eigenvector", "and", "convergence", "of", "power", "iteration", "[18].", "Given", "the", "attention", "that", "has", "been", "paid", "to", "improving", "the", "effectiveness", "of", "PageRank", "and", "HITS,", "and", "the", "thorough", "studies", "of", "the", "mathematical", "properties", "of", "these", "algorithms,", "it", "is", "somewhat", "surprising", "that", "very", "few", "evaluations", "of", "their", "effectiveness", "have", "been", "published.", "We", "are", "aware", "of", "two", "studies", "that", "have", "attempted", "to", "formally", "evaluate", "the", "effectiveness", "of", "HITS", "and", "of", "PageRank.", "Amento", "et", "al.", "[1]", "employed", "quantitative", "measures,", "but", "based", "their", "experiments", "on", "the", "result", "sets", "of", "just", "5", "queries", "and", "the", "web-graph", "induced", "by", "topical", "crawls", "around", "the", "result", "set", "of", "each", "query.", "A", "more", "recent", "study", "by", "Borodin", "et", "al.", "[4]", "is", "based", "on", "34", "queries,", "result", "sets", "of", "200", "pages", "per", "query", "obtained", "from", "Google,", "and", "a", "neighborhood", "graph", "derived", "by", "retrieving", "50", "in-links", "per", "result", "from", "Google.", "By", "contrast,", "our", "study", "is", "based", "on", "over", "28,000", "queries", "and", "a", "web", "graph", "covering", "2.9", "billion", "URLs.", "3.", "OUR", "DATA", "SETS", "Our", "evaluation", "is", "based", "on", "two", "data", "sets:", "a", "large", "web", "graph", "and", "a", "substantial", "set", "of", "queries", "with", "associated", "results,", "some", "of", "which", "were", "labeled", "by", "human", "judges.", "Our", "web", "graph", "is", "based", "on", "a", "web", "crawl", "that", "was", "conducted", "in", "a", "breadth-first-search", "fashion,", "and", "successfully", "retrieved", "463,685,607", "HTML", "pages.", "These", "pages", "contain", "17,672,011,890", "hyperlinks", "(after", "eliminating", "duplicate", "hyperlinks", "embedded", "in", "the", "same", "web", "page),", "which", "refer", "to", "a", "total", "of", "2,897,671,002", "URLs.", "Thus,", "at", "the", "end", "of", "the", "crawl", "there", "were", "2,433,985,395", "URLs", "in", "the", "frontier", "set", "of", "the", "crawler", "that", "had", "been", "discovered,", "but", "not", "yet", "downloaded.", "The", "mean", "out-degree", "of", "crawled", "web", "pages", "is", "38.11;", "the", "mean", "in-degree", "of", "discovered", "pages", "(whether", "crawled", "or", "not)", "is", "6.10.", "Also,", "it", "is", "worth", "pointing", "out", "that", "there", "is", "a", "lot", "more", "variance", "in", "in-degrees", "than", "in", "out-degrees;", "some", "popular", "pages", "have", "millions", "of", "incoming", "links.", "As", "we", "will", "see,", "this", "property", "affects", "the", "computational", "cost", "of", "HITS.", "Our", "query", "set", "was", "produced", "by", "sampling", "28,043", "queries", "from", "the", "MSN", "Search", "query", "log,", "and", "retrieving", "a", "total", "of", "66,846,214", "result", "URLs", "for", "these", "queries", "(using", "commercial", "search", "engine", "technology),", "or", "about", "2,838", "results", "per", "query", "on", "average.", "It", "is", "important", "to", "point", "out", "that", "our", "2.9", "billion", "URL", "web", "graph", "does", "not", "cover", "all", "these", "result", "URLs.", "In", "fact,", "only", "9,525,566", "of", "the", "result", "URLs", "(about", "14.25%)", "were", "covered", "by", "the", "graph.", "485,656", "of", "the", "results", "in", "the", "query", "set", "(about", "0.73%", "of", "all", "results,", "or", "about", "17.3", "results", "per", "query)", "were", "rated", "by", "human", "judges", "as", "to", "their", "relevance", "to", "the", "given", "query,", "and", "labeled", "on", "a", "six-point", "scale", "(the", "labels", "being", "definitive,", "excellent,", "good,", "fair,", "bad", "and", "detrimental).", "Results", "were", "selected", "for", "judgment", "based", "on", "their", "commercial", "search", "engine", "placement;", "in", "other", "words,", "the", "subset", "of", "labeled", "results", "is", "not", "random,", "but", "biased", "towards", "documents", "considered", "relevant", "by", "pre-existing", "ranking", "algorithms.", "Involving", "a", "human", "in", "the", "evaluation", "process", "is", "extremely", "cumbersome", "and", "expensive;", "however,", "human", "judgments", "are", "crucial", "for", "the", "evaluation", "of", "search", "engines.", "This", "is", "so", "because", "no", "document", "features", "have", "been", "found", "yet", "that", "can", "effectively", "estimate", "the", "relevance", "of", "a", "document", "to", "a", "user", "query.", "Since", "content-match", "features", "are", "very", "unreliable", "(and", "even", "more", "so", "link", "features,", "as", "we", "will", "see)", "we", "need", "to", "ask", "a", "human", "to", "evaluate", "the", "results", "in", "order", "to", "compare", "the", "quality", "of", "features.", "Evaluating", "the", "retrieval", "results", "from", "document", "scores", "and", "human", "judgments", "is", "not", "trivial", "and", "has", "been", "the", "subject", "of", "many", "investigations", "in", "the", "IR", "community.", "A", "good", "performance", "measure", "should", "correlate", "with", "user", "satisfaction,", "taking", "into", "account", "that", "users", "will", "dislike", "having", "to", "delve", "deep", "in", "the", "results", "to", "find", "relevant", "documents.", "For", "this", "reason,", "standard", "correlation", "measures", "(such", "as", "the", "correlation", "coefficient", "between", "the", "score", "and", "the", "judgment", "of", "a", "document),", "or", "order", "correlation", "measures", "(such", "as", "Kendall", "tau", "between", "the", "score", "and", "judgment", "induced", "orders)", "are", "not", "adequate.", "4.", "MEASURING", "PERFORMANCE", "In", "this", "study,", "we", "quantify", "the", "effectiveness", "of", "various", "ranking", "algorithms", "using", "three", "measures:", "NDCG,", "MRR,", "and", "MAP.", "The", "normalized", "discounted", "cumulative", "gains", "(NDCG)", "measure", "[13]", "discounts", "the", "contribution", "of", "a", "document", "to", "the", "overall", "score", "as", "the", "document\"s", "rank", "increases", "(assuming", "that", "the", "best", "document", "has", "the", "lowest", "rank).", "Such", "a", "measure", "is", "particularly", "appropriate", "for", "search", "engines,", "as", "studies", "have", "shown", "that", "search", "engine", "users", "rarely", "consider", "anything", "beyond", "the", "first", "few", "results", "[12].", "NDCG", "values", "are", "normalized", "to", "be", "between", "0", "and", "1,", "with", "1", "being", "the", "NDCG", "of", "a", "perfect", "ranking", "scheme", "that", "completely", "agrees", "with", "the", "assessment", "of", "the", "human", "judges.", "The", "discounted", "cumulative", "gain", "at", "a", "particular", "rank-threshold", "T", "(DCG@T)", "is", "defined", "to", "be", "PT", "j=1", "1", "log(1+j)", "2r(j)", "−", "1", ",", "where", "r(j)", "is", "the", "rating", "(0=detrimental,", "1=bad,", "2=fair,", "3=good,", "4=excellent,", "and", "5=definitive)", "at", "rank", "j.", "The", "NDCG", "is", "computed", "by", "dividing", "the", "DCG", "of", "a", "ranking", "by", "the", "highest", "possible", "DCG", "that", "can", "be", "obtained", "for", "that", "query.", "Finally,", "the", "NDGCs", "of", "all", "queries", "in", "the", "query", "set", "are", "averaged", "to", "produce", "a", "mean", "NDCG.", "The", "reciprocal", "rank", "(RR)", "of", "the", "ranked", "result", "set", "of", "a", "query", "is", "defined", "to", "be", "the", "reciprocal", "value", "of", "the", "rank", "of", "the", "highest-ranking", "relevant", "document", "in", "the", "result", "set.", "The", "RR", "at", "rank-threshold", "T", "is", "defined", "to", "be", "0", "if", "none", "of", "the", "highestranking", "T", "documents", "is", "relevant.", "The", "mean", "reciprocal", "rank", "(MRR)", "of", "a", "query", "set", "is", "the", "average", "reciprocal", "rank", "of", "all", "queries", "in", "the", "query", "set.", "Given", "a", "ranked", "set", "of", "n", "results,", "let", "rel(i)", "be", "1", "if", "the", "result", "at", "rank", "i", "is", "relevant", "and", "0", "otherwise.", "The", "precision", "P(j)", "at", "rank", "j", "is", "defined", "to", "be", "1", "j", "Pj", "i=1", "rel(i),", "i.e.", "the", "fraction", "of", "the", "relevant", "results", "among", "the", "j", "highest-ranking", "results.", "The", "average", "precision", "(AP)", "at", "rank-threshold", "k", "is", "defined", "to", "be", "Pk", "i=1", "P", "(i)rel(i)", "Pn", "i=1", "rel(i)", ".", "The", "mean", "average", "precision", "(MAP)", "of", "a", "query", "set", "is", "the", "mean", "of", "the", "average", "precisions", "of", "all", "queries", "in", "the", "query", "set.", "The", "above", "definitions", "of", "MRR", "and", "MAP", "rely", "on", "the", "notion", "of", "a", "relevant", "result.", "We", "investigated", "two", "definitions", "of", "relevance:", "One", "where", "all", "documents", "rated", "fair", "or", "better", "were", "deemed", "relevant,", "and", "one", "were", "all", "documents", "rated", "good", "or", "better", "were", "deemed", "relevant.", "For", "reasons", "of", "space,", "we", "only", "report", "MAP", "and", "MRR", "values", "computed", "using", "the", "latter", "definition;", "using", "the", "former", "definition", "does", "not", "change", "the", "qualitative", "nature", "of", "our", "findings.", "Similarly,", "we", "computed", "NDCG,", "MAP,", "and", "MRR", "values", "for", "a", "wide", "range", "of", "rank-thresholds;", "we", "report", "results", "here", "at", "rank", "10;", "again,", "changing", "the", "rank-threshold", "never", "led", "us", "to", "different", "conclusions.", "Recall", "that", "over", "99%", "of", "documents", "are", "unlabeled.", "We", "chose", "to", "treat", "all", "these", "documents", "as", "irrelevant", "to", "the", "query.", "For", "some", "queries,", "however,", "not", "all", "relevant", "documents", "have", "been", "judged.", "This", "introduces", "a", "bias", "into", "our", "evaluation:", "features", "that", "bring", "new", "documents", "to", "the", "top", "of", "the", "rank", "may", "be", "penalized.", "This", "will", "be", "more", "acute", "for", "features", "less", "correlated", "to", "the", "pre-existing", "commercial", "ranking", "algorithms", "used", "to", "select", "documents", "for", "judgment.", "On", "the", "other", "hand,", "most", "queries", "have", "few", "perfect", "relevant", "documents", "(i.e.", "home", "page", "or", "item", "searches)", "and", "they", "will", "most", "often", "be", "within", "the", "judged", "set.", "5.", "COMPUTING", "PAGERANK", "ON", "A", "LARGE", "WEB", "GRAPH", "PageRank", "is", "a", "query-independent", "measure", "of", "the", "importance", "of", "web", "pages,", "based", "on", "the", "notion", "of", "peer-endorsement:", "A", "hyperlink", "from", "page", "A", "to", "page", "B", "is", "interpreted", "as", "an", "endorsement", "of", "page", "B\"s", "content", "by", "page", "A\"s", "author.", "The", "following", "recursive", "definition", "captures", "this", "notion", "of", "endorsement:", "R(v)", "=", "X", "(u,v)∈E", "R(u)", "Out(u)", "where", "R(v)", "is", "the", "score", "(importance)", "of", "page", "v,", "(u,", "v)", "is", "an", "edge", "(hyperlink)", "from", "page", "u", "to", "page", "v", "contained", "in", "the", "edge", "set", "E", "of", "the", "web", "graph,", "and", "Out(u)", "is", "the", "out-degree", "(number", "of", "embedded", "hyperlinks)", "of", "page", "u.", "However,", "this", "definition", "suffers", "from", "a", "severe", "shortcoming:", "In", "the", "fixedpoint", "of", "this", "recursive", "equation,", "only", "edges", "that", "are", "part", "of", "a", "strongly-connected", "component", "receive", "a", "non-zero", "score.", "In", "order", "to", "overcome", "this", "deficiency,", "Page", "et", "al.", "grant", "each", "page", "a", "guaranteed", "minimum", "score,", "giving", "rise", "to", "the", "definition", "of", "standard", "PageRank:", "R(v)", "=", "d", "\|V", "\|", "+", "(1", "−", "d)", "X", "(u,v)∈E", "R(u)", "Out(u)", "where", "\|V", "\|", "is", "the", "size", "of", "the", "vertex", "set", "(the", "number", "of", "known", "web", "pages),", "and", "d", "is", "a", "damping", "factor,", "typically", "set", "to", "be", "between", "0.1", "and", "0.2.", "Assuming", "that", "scores", "are", "normalized", "to", "sum", "up", "to", "1,", "PageRank", "can", "be", "viewed", "as", "the", "stationary", "probability", "distribution", "of", "a", "random", "walk", "on", "the", "web", "graph,", "where", "at", "each", "step", "of", "the", "walk,", "the", "walker", "with", "probability", "1", "−", "d", "moves", "from", "its", "current", "node", "u", "to", "a", "neighboring", "node", "v,", "and", "with", "probability", "d", "selects", "a", "node", "uniformly", "at", "random", "from", "all", "nodes", "in", "the", "graph", "and", "jumps", "to", "it.", "In", "the", "limit,", "the", "random", "walker", "is", "at", "node", "v", "with", "probability", "R(v).", "One", "issue", "that", "has", "to", "be", "addressed", "when", "implementing", "PageRank", "is", "how", "to", "deal", "with", "sink", "nodes,", "nodes", "that", "do", "not", "have", "any", "outgoing", "links.", "One", "possibility", "would", "be", "to", "select", "another", "node", "uniformly", "at", "random", "and", "transition", "to", "it;", "this", "is", "equivalent", "to", "adding", "edges", "from", "each", "sink", "nodes", "to", "all", "other", "nodes", "in", "the", "graph.", "We", "chose", "the", "alternative", "approach", "of", "introducing", "a", "single", "phantom", "node.", "Each", "sink", "node", "has", "an", "edge", "to", "the", "phantom", "node,", "and", "the", "phantom", "node", "has", "an", "edge", "to", "itself.", "In", "practice,", "PageRank", "scores", "can", "be", "computed", "using", "power", "iteration.", "Since", "PageRank", "is", "query-independent,", "the", "computation", "can", "be", "performed", "off-line", "ahead", "of", "query", "time.", "This", "property", "has", "been", "key", "to", "PageRank\"s", "success,", "since", "it", "is", "a", "challenging", "engineering", "problem", "to", "build", "a", "system", "that", "can", "perform", "any", "non-trivial", "computation", "on", "the", "web", "graph", "at", "query", "time.", "In", "order", "to", "compute", "PageRank", "scores", "for", "all", "2.9", "billion", "nodes", "in", "our", "web", "graph,", "we", "implemented", "a", "distributed", "version", "of", "PageRank.", "The", "computation", "consists", "of", "two", "distinct", "phases.", "In", "the", "first", "phase,", "the", "link", "files", "produced", "by", "the", "web", "crawler,", "which", "contain", "page", "URLs", "and", "their", "associated", "link", "URLs", "in", "textual", "form,", "are", "partitioned", "among", "the", "machines", "in", "the", "cluster", "used", "to", "compute", "PageRank", "scores,", "and", "converted", "into", "a", "more", "compact", "format", "along", "the", "way.", "Specifically,", "URLs", "are", "partitioned", "across", "the", "machines", "in", "the", "cluster", "based", "on", "a", "hash", "of", "the", "URLs\"", "host", "component,", "and", "each", "machine", "in", "the", "cluster", "maintains", "a", "table", "mapping", "the", "URL", "to", "a", "32-bit", "integer.", "The", "integers", "are", "drawn", "from", "a", "densely", "packed", "space,", "so", "as", "to", "make", "suitable", "indices", "into", "the", "array", "that", "will", "later", "hold", "the", "PageRank", "scores.", "The", "system", "then", "translates", "our", "log", "of", "pages", "and", "their", "associated", "hyperlinks", "into", "a", "compact", "representation", "where", "both", "page", "URLs", "and", "link", "URLs", "are", "represented", "by", "their", "associated", "32-bit", "integers.", "Hashing", "the", "host", "component", "of", "the", "URLs", "guarantees", "that", "all", "URLs", "from", "the", "same", "host", "are", "assigned", "to", "the", "same", "machine", "in", "our", "scoring", "cluster.", "Since", "over", "80%", "of", "all", "hyperlinks", "on", "the", "web", "are", "relative", "(that", "is,", "are", "between", "two", "pages", "on", "the", "same", "host),", "this", "property", "greatly", "reduces", "the", "amount", "of", "network", "communication", "required", "by", "the", "second", "stage", "of", "the", "distributed", "scoring", "computation.", "The", "second", "phase", "performs", "the", "actual", "PageRank", "power", "iteration.", "Both", "the", "link", "data", "and", "the", "current", "PageRank", "vector", "reside", "on", "disk", "and", "are", "read", "in", "a", "streaming", "fashion;", "while", "the", "new", "PageRank", "vector", "is", "maintained", "in", "memory.", "We", "represent", "PageRank", "scores", "as", "64-bit", "floating", "point", "numbers.", "PageRank", "contributions", "to", "pages", "assigned", "to", "remote", "machines", "are", "streamed", "to", "the", "remote", "machine", "via", "a", "TCP", "connection.", "We", "used", "a", "three-machine", "cluster,", "each", "machine", "equipped", "with", "16", "GB", "of", "RAM,", "to", "compute", "standard", "PageRank", "scores", "for", "all", "2.9", "billion", "URLs", "that", "were", "contained", "in", "our", "web", "graph.", "We", "used", "a", "damping", "factor", "of", "0.15,", "and", "performed", "200", "power", "iterations.", "Starting", "at", "iteration", "165,", "the", "L∞", "norm", "of", "the", "change", "in", "the", "PageRank", "vector", "from", "one", "iteration", "to", "the", "next", "had", "stopped", "decreasing,", "indicating", "that", "we", "had", "reached", "as", "much", "of", "a", "fixed", "point", "as", "the", "limitations", "of", "64-bit", "floating", "point", "arithmetic", "would", "allow.", "0.07", "0.08", "0.09", "0.10", "0.11", "1", "10", "100", "Number", "of", "back-links", "sampled", "per", "result", "NDCG@10", "hits-aut-all", "hits-aut-ih", "hits-aut-id", "0.01", "0.02", "0.03", "0.04", "1", "10", "100", "Number", "of", "back-links", "sampled", "per", "result", "MAP@10", "hits-aut-all", "hits-aut-ih", "hits-aut-id", "0.07", "0.08", "0.09", "0.10", "0.11", "0.12", "0.13", "0.14", "1", "10", "100", "Number", "of", "back-links", "sampled", "per", "result", "MRR@10", "hits-aut-all", "hits-aut-ih", "hits-aut-id", "Figure", "1:", "Effectiveness", "of", "authority", "scores", "computed", "using", "different", "parameterizations", "of", "HITS.", "A", "post-processing", "phase", "uses", "the", "final", "PageRank", "vectors", "(one", "per", "machine)", "and", "the", "table", "mapping", "URLs", "to", "32-bit", "integers", "(representing", "indices", "into", "each", "PageRank", "vector)", "to", "score", "the", "result", "URL", "in", "our", "query", "log.", "As", "mentioned", "above,", "our", "web", "graph", "covered", "9,525,566", "of", "the", "66,846,214", "result", "URLs.", "These", "URLs", "were", "annotated", "with", "their", "computed", "PageRank", "score;", "all", "other", "URLs", "received", "a", "score", "of", "0.", "6.", "HITS", "HITS,", "unlike", "PageRank,", "is", "a", "query-dependent", "ranking", "algorithm.", "HITS", "(which", "stands", "for", "Hypertext", "Induced", "Topic", "Search)", "is", "based", "on", "the", "following", "two", "intuitions:", "First,", "hyperlinks", "can", "be", "viewed", "as", "topical", "endorsements:", "A", "hyperlink", "from", "a", "page", "u", "devoted", "to", "topic", "T", "to", "another", "page", "v", "is", "likely", "to", "endorse", "the", "authority", "of", "v", "with", "respect", "to", "topic", "T.", "Second,", "the", "result", "set", "of", "a", "particular", "query", "is", "likely", "to", "have", "a", "certain", "amount", "of", "topical", "coherence.", "Therefore,", "it", "makes", "sense", "to", "perform", "link", "analysis", "not", "on", "the", "entire", "web", "graph,", "but", "rather", "on", "just", "the", "neighborhood", "of", "pages", "contained", "in", "the", "result", "set,", "since", "this", "neighborhood", "is", "more", "likely", "to", "contain", "topically", "relevant", "links.", "But", "while", "the", "set", "of", "nodes", "immediately", "reachable", "from", "the", "result", "set", "is", "manageable", "(given", "that", "most", "pages", "have", "only", "a", "limited", "number", "of", "hyperlinks", "embedded", "into", "them),", "the", "set", "of", "pages", "immediately", "leading", "to", "the", "result", "set", "can", "be", "enormous.", "For", "this", "reason,", "Kleinberg", "suggests", "sampling", "a", "fixed-size", "random", "subset", "of", "the", "pages", "linking", "to", "any", "high-indegree", "page", "in", "the", "result", "set.", "Moreover,", "Kleinberg", "suggests", "considering", "only", "links", "that", "cross", "host", "boundaries,", "the", "rationale", "being", "that", "links", "between", "pages", "on", "the", "same", "host", "(intrinsic", "links)", "are", "likely", "to", "be", "navigational", "or", "nepotistic", "and", "not", "topically", "relevant.", "Given", "a", "web", "graph", "(V,", "E)", "with", "vertex", "set", "V", "and", "edge", "set", "E", "⊆", "V", "×", "V", ",", "and", "the", "set", "of", "result", "URLs", "to", "a", "query", "(called", "the", "root", "set", "R", "⊆", "V", ")", "as", "input,", "HITS", "computes", "a", "neighborhood", "graph", "consisting", "of", "a", "base", "set", "B", "⊆", "V", "(the", "root", "set", "and", "some", "of", "its", "neighboring", "vertices)", "and", "some", "of", "the", "edges", "in", "E", "induced", "by", "B.", "In", "order", "to", "formalize", "the", "definition", "of", "the", "neighborhood", "graph,", "it", "is", "helpful", "to", "first", "introduce", "a", "sampling", "operator", "and", "the", "concept", "of", "a", "linkselection", "predicate.", "Given", "a", "set", "A,", "the", "notation", "Sn[A]", "draws", "n", "elements", "uniformly", "at", "random", "from", "A;", "Sn[A]", "=", "A", "if", "\|A\|", "≤", "n.", "A", "link", "section", "predicate", "P", "takes", "an", "edge", "(u,", "v)", "∈", "E.", "In", "this", "study,", "we", "use", "the", "following", "three", "link", "section", "predicates:", "all(u,", "v)", "⇔", "true", "ih(u,", "v)", "⇔", "host(u)", "=", "host(v)", "id(u,", "v)", "⇔", "domain(u)", "=", "domain(v)", "where", "host(u)", "denotes", "the", "host", "of", "URL", "u,", "and", "domain(u)", "denotes", "the", "domain", "of", "URL", "u.", "So,", "all", "is", "true", "for", "all", "links,", "whereas", "ih", "is", "true", "only", "for", "inter-host", "links,", "and", "id", "is", "true", "only", "for", "inter-domain", "links.", "The", "outlinked-set", "OP", "of", "the", "root", "set", "R", "w.r.t.", "a", "linkselection", "predicate", "P", "is", "defined", "to", "be:", "OP", "=", "[", "u∈R", "{v", "∈", "V", ":", "(u,", "v)", "∈", "E", "∧", "P(u,", "v)}", "The", "inlinking-set", "IP", "s", "of", "the", "root", "set", "R", "w.r.t.", "a", "link-selection", "predicate", "P", "and", "a", "sampling", "value", "s", "is", "defined", "to", "be:", "IP", "s", "=", "[", "v∈R", "Ss[{u", "∈", "V", ":", "(u,", "v)", "∈", "E", "∧", "P(u,", "v)}]", "The", "base", "set", "BP", "s", "of", "the", "root", "set", "R", "w.r.t.", "P", "and", "s", "is", "defined", "to", "be:", "BP", "s", "=", "R", "∪", "IP", "s", "∪", "OP", "The", "neighborhood", "graph", "(BP", "s", ",", "NP", "s", ")", "has", "the", "base", "set", "BP", "s", "as", "its", "vertex", "set", "and", "an", "edge", "set", "NP", "s", "containing", "those", "edges", "in", "E", "that", "are", "covered", "by", "BP", "s", "and", "permitted", "by", "P:", "NP", "s", "=", "{(u,", "v)", "∈", "E", ":", "u", "∈", "BP", "s", "∧", "v", "∈", "BP", "s", "∧", "P(u,", "v)}", "To", "simplify", "notation,", "we", "write", "B", "to", "denote", "BP", "s", ",", "and", "N", "to", "denote", "NP", "s", ".", "For", "each", "node", "u", "in", "the", "neighborhood", "graph,", "HITS", "computes", "two", "scores:", "an", "authority", "score", "A(u),", "estimating", "how", "authoritative", "u", "is", "on", "the", "topic", "induced", "by", "the", "query,", "and", "a", "hub", "score", "H(u),", "indicating", "whether", "u", "is", "a", "good", "reference", "to", "many", "authoritative", "pages.", "This", "is", "done", "using", "the", "following", "algorithm:", "1.", "For", "all", "u", "∈", "B", "do", "H(u)", ":=", "q", "1", "\|B\|", ",", "A(u)", ":=", "q", "1", "\|B\|", ".", "2.", "Repeat", "until", "H", "and", "A", "converge:", "(a)", "For", "all", "v", "∈", "B", ":", "A", "(v)", ":=", "P", "(u,v)∈N", "H(u)", "(b)", "For", "all", "u", "∈", "B", ":", "H", "(u)", ":=", "P", "(u,v)∈N", "A(v)", "(c)", "H", ":=", "H", "2,", "A", ":=", "A", "2", "where", "X", "2", "normalizes", "the", "vector", "X", "to", "unit", "length", "in", "euclidean", "space,", "i.e.", "the", "squares", "of", "its", "elements", "sum", "up", "to", "1.", "In", "practice,", "implementing", "a", "system", "that", "can", "compute", "HITS", "within", "the", "time", "constraints", "of", "a", "major", "search", "engine", "(where", "the", "peak", "query", "load", "is", "in", "the", "thousands", "of", "queries", "per", "second,", "and", "the", "desired", "query", "response", "time", "is", "well", "below", "one", "second)", "is", "a", "major", "engineering", "challenge.", "Among", "other", "things,", "the", "web", "graph", "cannot", "reasonably", "be", "stored", "on", "disk,", "since", ".221", ".106", ".105", ".104", ".102", ".095", ".092", ".090", ".038", ".036", ".035", ".034", ".032", ".032", ".011", "0.00", "0.05", "0.10", "0.15", "0.20", "0.25", "bm25f", "degree-in-id", "degree-in-ih", "hits-aut-id-25", "hits-aut-ih-100", "degree-in-all", "pagerank", "hits-aut-all-100", "hits-hub-all-100", "hits-hub-ih-100", "hits-hub-id-100", "degree-out-all", "degree-out-ih", "degree-out-id", "random", "NDCG@10", ".100", ".035", ".033", ".033", ".033", ".029", ".027", ".027", ".008", ".007", ".007", ".006", ".006", ".006", ".002", "0.00", "0.02", "0.04", "0.06", "0.08", "0.10", "0.12", "bm25f", "hits-aut-id-9", "degree-in-id", "hits-aut-ih-15", "degree-in-ih", "degree-in-all", "pagerank", "hits-aut-all-100", "hits-hub-all-100", "hits-hub-ih-100", "hits-hub-id-100", "degree-out-all", "degree-out-ih", "degree-out-id", "random", "MAP@10", ".273", ".132", ".126", ".117", ".114", ".101", ".101", ".097", ".032", ".032", ".030", ".028", ".027", ".027", ".007", "0.00", "0.05", "0.10", "0.15", "0.20", "0.25", "0.30", "bm25f", "hits-aut-id-9", "hits-aut-ih-15", "degree-in-id", "degree-in-ih", "degree-in-all", "hits-aut-all-100", "pagerank", "hits-hub-all-100", "hits-hub-ih-100", "hits-hub-id-100", "degree-out-all", "degree-out-ih", "degree-out-id", "random", "MRR@10", "Figure", "2:", "Effectiveness", "of", "different", "features.", "seek", "times", "of", "modern", "hard", "disks", "are", "too", "slow", "to", "retrieve", "the", "links", "within", "the", "time", "constraints,", "and", "the", "graph", "does", "not", "fit", "into", "the", "main", "memory", "of", "a", "single", "machine,", "even", "when", "using", "the", "most", "aggressive", "compression", "techniques.", "In", "order", "to", "experiment", "with", "HITS", "and", "other", "query-dependent", "link-based", "ranking", "algorithms", "that", "require", "non-regular", "accesses", "to", "arbitrary", "nodes", "and", "edges", "in", "the", "web", "graph,", "we", "implemented", "a", "system", "called", "the", "Scalable", "Hyperlink", "Store,", "or", "SHS", "for", "short.", "SHS", "is", "a", "special-purpose", "database,", "distributed", "over", "an", "arbitrary", "number", "of", "machines", "that", "keeps", "a", "highly", "compressed", "version", "of", "the", "web", "graph", "in", "memory", "and", "allows", "very", "fast", "lookup", "of", "nodes", "and", "edges.", "On", "our", "hardware,", "it", "takes", "an", "average", "of", "2", "microseconds", "to", "map", "a", "URL", "to", "a", "64-bit", "integer", "handle", "called", "a", "UID,", "15", "microseconds", "to", "look", "up", "all", "incoming", "or", "outgoing", "link", "UIDs", "associated", "with", "a", "page", "UID,", "and", "5", "microseconds", "to", "map", "a", "UID", "back", "to", "a", "URL", "(the", "last", "functionality", "not", "being", "required", "by", "HITS).", "The", "RPC", "overhead", "is", "about", "100", "microseconds,", "but", "the", "SHS", "API", "allows", "many", "lookups", "to", "be", "batched", "into", "a", "single", "RPC", "request.", "We", "implemented", "the", "HITS", "algorithm", "using", "the", "SHS", "infrastructure.", "We", "compiled", "three", "SHS", "databases,", "one", "containing", "all", "17.6", "billion", "links", "in", "our", "web", "graph", "(all),", "one", "containing", "only", "links", "between", "pages", "that", "are", "on", "different", "hosts", "(ih,", "for", "inter-host),", "and", "one", "containing", "only", "links", "between", "pages", "that", "are", "on", "different", "domains", "(id).", "We", "consider", "two", "URLs", "to", "belong", "to", "different", "hosts", "if", "the", "host", "portions", "of", "the", "URLs", "differ", "(in", "other", "words,", "we", "make", "no", "attempt", "to", "determine", "whether", "two", "distinct", "symbolic", "host", "names", "refer", "to", "the", "same", "computer),", "and", "we", "consider", "a", "domain", "to", "be", "the", "name", "purchased", "from", "a", "registrar", "(for", "example,", "we", "consider", "news.bbc.co.uk", "and", "www.bbc.co.uk", "to", "be", "different", "hosts", "belonging", "to", "the", "same", "domain).", "Using", "each", "of", "these", "databases,", "we", "computed", "HITS", "authority", "and", "hub", "scores", "for", "various", "parameterizations", "of", "the", "sampling", "operator", "S,", "sampling", "between", "1", "and", "100", "back-links", "of", "each", "page", "in", "the", "root", "set.", "Result", "URLs", "that", "were", "not", "covered", "by", "our", "web", "graph", "automatically", "received", "authority", "and", "hub", "scores", "of", "0,", "since", "they", "were", "not", "connected", "to", "any", "other", "nodes", "in", "the", "neighborhood", "graph", "and", "therefore", "did", "not", "receive", "any", "endorsements.", "We", "performed", "forty-five", "different", "HITS", "computations,", "each", "combining", "one", "of", "the", "three", "link", "selection", "predicates", "(all,", "ih,", "and", "id)", "with", "a", "sampling", "value.", "For", "each", "combination,", "we", "loaded", "one", "of", "the", "three", "databases", "into", "an", "SHS", "system", "running", "on", "six", "machines", "(each", "equipped", "with", "16", "GB", "of", "RAM),", "and", "computed", "HITS", "authority", "and", "hub", "scores,", "one", "query", "at", "a", "time.", "The", "longest-running", "combination", "(using", "the", "all", "database", "and", "sampling", "100", "back-links", "of", "each", "root", "set", "vertex)", "required", "30,456", "seconds", "to", "process", "the", "entire", "query", "set,", "or", "about", "1.1", "seconds", "per", "query", "on", "average.", "7.", "EXPERIMENTAL", "RESULTS", "For", "a", "given", "query", "Q,", "we", "need", "to", "rank", "the", "set", "of", "documents", "satisfying", "Q", "(the", "result", "set", "of", "Q).", "Our", "hypothesis", "is", "that", "good", "features", "should", "be", "able", "to", "rank", "relevant", "documents", "in", "this", "set", "higher", "than", "non-relevant", "ones,", "and", "this", "should", "result", "in", "an", "increase", "in", "each", "performance", "measure", "over", "the", "query", "set.", "We", "are", "specifically", "interested", "in", "evaluating", "the", "usefulness", "of", "HITS", "and", "other", "link-based", "features.", "In", "principle,", "we", "could", "do", "this", "by", "sorting", "the", "documents", "in", "each", "result", "set", "by", "their", "feature", "value,", "and", "compare", "the", "resulting", "NDCGs.", "We", "call", "this", "ranking", "with", "isolated", "features.", "Let", "us", "first", "examine", "the", "relative", "performance", "of", "the", "different", "parameterizations", "of", "the", "HITS", "algorithm", "we", "examined.", "Recall", "that", "we", "computed", "HITS", "for", "each", "combination", "of", "three", "link", "section", "schemes", "-", "all", "links", "(all),", "inter-host", "links", "only", "(ih),", "and", "inter-domain", "links", "only", "(id)", "-", "with", "back-link", "sampling", "values", "ranging", "from", "1", "to", "100.", "Figure", "1", "shows", "the", "impact", "of", "the", "number", "of", "sampled", "back-links", "on", "the", "retrieval", "performance", "of", "HITS", "authority", "scores.", "Each", "graph", "is", "associated", "with", "one", "performance", "measure.", "The", "horizontal", "axis", "of", "each", "graph", "represents", "the", "number", "of", "sampled", "back-links,", "the", "vertical", "axis", "represents", "performance", "under", "the", "appropriate", "measure,", "and", "each", "curve", "depicts", "a", "link", "selection", "scheme.", "The", "id", "scheme", "slightly", "outperforms", "ih,", "and", "both", "vastly", "outperform", "the", "all", "scheme", "-", "eliminating", "nepotistic", "links", "pays", "off.", "The", "performance", "of", "the", "all", "scheme", "increases", "as", "more", "back-links", "of", "each", "root", "set", "vertex", "are", "sampled,", "while", "the", "performance", "of", "the", "id", "and", "ih", "schemes", "peaks", "at", "between", "10", "and", "25", "samples", "and", "then", "plateaus", "or", "even", "declines,", "depending", "on", "the", "performance", "measure.", "Having", "compared", "different", "parameterizations", "of", "HITS,", "we", "will", "now", "fix", "the", "number", "of", "sampled", "back-links", "at", "100", "and", "compare", "the", "three", "link", "selection", "schemes", "against", "other", "isolated", "features:", "PageRank,", "in-degree", "and", "out-degree", "counting", "links", "of", "all", "pages,", "of", "different", "hosts", "only", "and", "of", "different", "domains", "only", "(all,", "ih", "and", "id", "datasets", "respectively),", "and", "a", "text", "retrieval", "algorithm", "exploiting", "anchor", "text:", "BM25F[24].", "BM25F", "is", "a", "state-of-the", "art", "ranking", "function", "solely", "based", "on", "textual", "content", "of", "the", "documents", "and", "their", "associated", "anchor", "texts.", "BM25F", "is", "a", "descendant", "of", "BM25", "that", "combines", "the", "different", "textual", "fields", "of", "a", "document,", "namely", "title,", "body", "and", "anchor", "text.", "This", "model", "has", "been", "shown", "to", "be", "one", "of", "the", "best-performing", "web", "search", "scoring", "functions", "over", "the", "last", "few", "years", "[8,", "24].", "BM25F", "has", "a", "number", "of", "free", "parameters", "(2", "per", "field,", "6", "in", "our", "case);", "we", "used", "the", "parameter", "values", "described", "in", "[24].", ".341", ".340", ".339", ".337", ".336", ".336", ".334", ".311", ".311", ".310", ".310", ".310", ".310", ".231", "0.22", "0.24", "0.26", "0.28", "0.30", "0.32", "0.34", "0.36", "degree-in-id", "degree-in-ih", "degree-in-all", "hits-aut-ih-100", "hits-aut-all-100", "pagerank", "hits-aut-id-10", "degree-out-all", "hits-hub-all-100", "degree-out-ih", "hits-hub-ih-100", "degree-out-id", "hits-hub-id-10", "bm25f", "NDCG@10", ".152", ".152", ".151", ".150", ".150", ".149", ".149", ".137", ".136", ".136", ".128", ".127", ".127", ".100", "0.09", "0.10", "0.11", "0.12", "0.13", "0.14", "0.15", "0.16", "degree-in-ih", "degree-in-id", "degree-in-all", "hits-aut-ih-100", "hits-aut-all-100", "hits-aut-id-10", "pagerank", "hits-hub-all-100", "degree-out-ih", "hits-hub-id-100", "degree-out-all", "degree-out-id", "hits-hub-ih-100", "bm25f", "MAP@10", ".398", ".397", ".394", ".394", ".392", ".392", ".391", ".356", ".356", ".356", ".356", ".356", ".355", ".273", "0.25", "0.30", "0.35", "0.40", "degree-in-id", "degree-in-ih", "degree-in-all", "hits-aut-ih-100", "hits-aut-all-100", "pagerank", "hits-aut-id-10", "degree-out-all", "hits-hub-all-100", "degree-out-ih", "hits-hub-ih-100", "degree-out-id", "hits-hub-id-10", "bm25f", "MRR@10", "Figure", "3:", "Effectiveness", "measures", "for", "linear", "combinations", "of", "link-based", "features", "with", "BM25F.", "Figure", "2", "shows", "the", "NDCG,", "MRR,", "and", "MAP", "measures", "of", "these", "features.", "Again", "all", "performance", "measures", "(and", "for", "all", "rank-thresholds", "we", "explored)", "agree.", "As", "expected,", "BM25F", "outperforms", "all", "link-based", "features", "by", "a", "large", "margin.", "The", "link-based", "features", "are", "divided", "into", "two", "groups,", "with", "a", "noticeable", "performance", "drop", "between", "the", "groups.", "The", "better-performing", "group", "consists", "of", "the", "features", "that", "are", "based", "on", "the", "number", "and/or", "quality", "of", "incoming", "links", "(in-degree,", "PageRank,", "and", "HITS", "authority", "scores);", "and", "the", "worse-performing", "group", "consists", "of", "the", "features", "that", "are", "based", "on", "the", "number", "and/or", "quality", "of", "outgoing", "links", "(outdegree", "and", "HITS", "hub", "scores).", "In", "the", "group", "of", "features", "based", "on", "incoming", "links,", "features", "that", "ignore", "nepotistic", "links", "perform", "better", "than", "their", "counterparts", "using", "all", "links.", "Moreover,", "using", "only", "inter-domain", "(id)", "links", "seems", "to", "be", "marginally", "better", "than", "using", "inter-host", "(ih)", "links.", "The", "fact", "that", "features", "based", "on", "outgoing", "links", "underperform", "those", "based", "on", "incoming", "links", "matches", "our", "expectations;", "if", "anything,", "it", "is", "mildly", "surprising", "that", "outgoing", "links", "provide", "a", "useful", "signal", "for", "ranking", "at", "all.", "On", "the", "other", "hand,", "the", "fact", "that", "in-degree", "features", "outperform", "PageRank", "under", "all", "measures", "is", "quite", "surprising.", "A", "possible", "explanation", "is", "that", "link-spammers", "have", "been", "targeting", "the", "published", "PageRank", "algorithm", "for", "many", "years,", "and", "that", "this", "has", "led", "to", "anomalies", "in", "the", "web", "graph", "that", "affect", "PageRank,", "but", "not", "other", "link-based", "features", "that", "explore", "only", "a", "distance-1", "neighborhood", "of", "the", "result", "set.", "Likewise,", "it", "is", "surprising", "that", "simple", "query-independent", "features", "such", "as", "in-degree,", "which", "might", "estimate", "global", "quality", "but", "cannot", "capture", "relevance", "to", "a", "query,", "would", "outperform", "query-dependent", "features", "such", "as", "HITS", "authority", "scores.", "However,", "we", "cannot", "investigate", "the", "effect", "of", "these", "features", "in", "isolation,", "without", "regard", "to", "the", "overall", "ranking", "function,", "for", "several", "reasons.", "First,", "features", "based", "on", "the", "textual", "content", "of", "documents", "(as", "opposed", "to", "link-based", "features)", "are", "the", "best", "predictors", "of", "relevance.", "Second,", "link-based", "features", "can", "be", "strongly", "correlated", "with", "textual", "features", "for", "several", "reasons,", "mainly", "the", "correlation", "between", "in-degree", "and", "numFeature", "Transform", "function", "bm25f", "T(s)", "=", "s", "pagerank", "T(s)", "=", "log(s", "+", "3", "·", "10−12", ")", "degree-in-", "T(s)", "=", "log(s", "+", "3", "·", "10−2", ")", "degree-out-", "T(s)", "=", "log(s", "+", "3", "·", "103", ")", "hits-aut-", "T(s)", "=", "log(s", "+", "3", "·", "10−8", ")", "hits-hub-", "T(s)", "=", "log(s", "+", "3", "·", "10−1", ")", "Table", "1:", "Near-optimal", "feature", "transform", "functions.", "ber", "of", "textual", "anchor", "matches.", "Therefore,", "one", "must", "consider", "the", "effect", "of", "link-based", "features", "in", "combination", "with", "textual", "features.", "Otherwise,", "we", "may", "find", "a", "link-based", "feature", "that", "is", "very", "good", "in", "isolation", "but", "is", "strongly", "correlated", "with", "textual", "features", "and", "results", "in", "no", "overall", "improvement;", "and", "vice", "versa,", "we", "may", "find", "a", "link-based", "feature", "that", "is", "weak", "in", "isolation", "but", "significantly", "improves", "overall", "performance.", "For", "this", "reason,", "we", "have", "studied", "the", "combination", "of", "the", "link-based", "features", "above", "with", "BM25F.", "All", "feature", "combinations", "were", "done", "by", "considering", "the", "linear", "combination", "of", "two", "features", "as", "a", "document", "score,", "using", "the", "formula", "score(d)", "=Pn", "i=1", "wiTi(Fi(d)),", "where", "d", "is", "a", "document", "(or", "documentquery", "pair,", "in", "the", "case", "of", "BM25F),", "Fi(d)", "(for", "1", "≤", "i", "≤", "n)", "is", "a", "feature", "extracted", "from", "d,", "Ti", "is", "a", "transform,", "and", "wi", "is", "a", "free", "scalar", "weight", "that", "needs", "to", "be", "tuned.", "We", "chose", "transform", "functions", "that", "we", "empirically", "determined", "to", "be", "well-suited.", "Table", "1", "shows", "the", "chosen", "transform", "functions.", "This", "type", "of", "linear", "combination", "is", "appropriate", "if", "we", "assume", "features", "to", "be", "independent", "with", "respect", "to", "relevance", "and", "an", "exponential", "model", "for", "link", "features,", "as", "discussed", "in", "[8].", "We", "tuned", "the", "weights", "by", "selecting", "a", "random", "subset", "of", "5,000", "queries", "from", "the", "query", "set,", "used", "an", "iterative", "refinement", "process", "to", "find", "weights", "that", "maximized", "a", "given", "performance", "measure", "on", "that", "training", "set,", "and", "used", "the", "remaining", "23,043", "queries", "to", "measure", "the", "performance", "of", "the", "thus", "derived", "scoring", "functions.", "We", "explored", "the", "pairwise", "combination", "of", "BM25F", "with", "every", "link-based", "scoring", "function.", "Figure", "3", "shows", "the", "NDCG,", "MRR,", "and", "MAP", "measures", "of", "these", "feature", "combinations,", "together", "with", "a", "baseline", "BM25F", "score", "(the", "right-most", "bar", "in", "each", "graph),", "which", "was", "computed", "using", "the", "same", "subset", "of", "23,045", "queries", "that", "were", "used", "as", "the", "test", "set", "for", "the", "feature", "combinations.", "Regardless", "of", "the", "performance", "measure", "applied,", "we", "can", "make", "the", "following", "general", "observations:", "1.", "Combining", "any", "of", "the", "link-based", "features", "with", "BM25F", "results", "in", "a", "substantial", "performance", "improvement", "over", "BM25F", "in", "isolation.", "2.", "The", "combination", "of", "BM25F", "with", "features", "based", "on", "incoming", "links", "(PageRank,", "in-degree,", "and", "HITS", "authority", "scores)", "performs", "substantially", "better", "than", "the", "combination", "with", "features", "based", "on", "outgoing", "links", "(HITS", "hub", "scores", "and", "out-degree).", "3.", "The", "performance", "differences", "between", "the", "various", "combinations", "of", "BM25F", "with", "features", "based", "on", "incoming", "links", "is", "comparatively", "small,", "and", "the", "relative", "ordering", "of", "feature", "combinations", "is", "fairly", "stable", "across", "the", "0.00", "0.02", "0.04", "0.06", "0.08", "0.10", "0.12", "0.14", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "22", "24", "MAP@10", "26", "374", "1640", "2751", "3768", "4284", "3944", "3001", "2617", "1871", "1367", "771", "1629", "bm25fnorm", "pagerank", "degree-in-id", "hits-aut-id-100", "Figure", "4:", "Effectiveness", "measures", "for", "selected", "isolated", "features,", "broken", "down", "by", "query", "specificity.", "ferent", "performance", "measures", "used.", "However,", "the", "combination", "of", "BM25F", "with", "any", "in-degree", "variant,", "and", "in", "particular", "with", "id", "in-degree,", "consistently", "outperforms", "the", "combination", "of", "BM25F", "with", "PageRank", "or", "HITS", "authority", "scores,", "and", "can", "be", "computed", "much", "easier", "and", "faster.", "Finally,", "we", "investigated", "whether", "certain", "features", "are", "better", "for", "some", "queries", "than", "for", "others.", "Particularly,", "we", "are", "interested", "in", "the", "relationship", "between", "the", "specificity", "of", "a", "query", "and", "the", "performance", "of", "different", "ranking", "features.", "The", "most", "straightforward", "measure", "of", "the", "specificity", "of", "a", "query", "Q", "would", "be", "the", "number", "of", "documents", "in", "a", "search", "engine\"s", "corpus", "that", "satisfy", "Q.", "Unfortunately,", "the", "query", "set", "available", "to", "us", "did", "not", "contain", "this", "information.", "Therefore,", "we", "chose", "to", "approximate", "the", "specificity", "of", "Q", "by", "summing", "up", "the", "inverse", "document", "frequencies", "of", "the", "individual", "query", "terms", "comprising", "Q.", "The", "inverse", "document", "frequency", "(IDF)", "of", "a", "term", "t", "with", "respect", "to", "a", "corpus", "C", "is", "defined", "to", "be", "logN/doc(t),", "where", "doc(t)", "is", "the", "number", "of", "documents", "in", "C", "containing", "t", "and", "N", "is", "the", "total", "number", "of", "documents", "in", "C.", "By", "summing", "up", "the", "IDFs", "of", "the", "query", "terms,", "we", "make", "the", "(flawed)", "assumption", "that", "the", "individual", "query", "terms", "are", "independent", "of", "each", "other.", "However,", "while", "not", "perfect,", "this", "approximation", "is", "at", "least", "directionally", "correct.", "We", "broke", "down", "our", "query", "set", "into", "13", "buckets,", "each", "bucket", "associated", "with", "an", "interval", "of", "query", "IDF", "values,", "and", "we", "computed", "performance", "metrics", "for", "all", "ranking", "functions", "applied", "(in", "isolation)", "to", "the", "queries", "in", "each", "bucket.", "In", "order", "to", "keep", "the", "graphs", "readable,", "we", "will", "not", "show", "the", "performance", "of", "all", "the", "features,", "but", "rather", "restrict", "ourselves", "to", "the", "four", "most", "interesting", "ones:", "PageRank,", "id", "HITS", "authority", "scores,", "id", "in-degree,", "and", "BM25F.", "Figure", "4", "shows", "the", "MAP@10", "for", "all", "13", "query", "specificity", "buckets.", "Buckets", "on", "the", "far", "left", "of", "each", "graph", "represent", "very", "general", "queries;", "buckets", "on", "the", "far", "right", "represent", "very", "specific", "queries.", "The", "figures", "on", "the", "upper", "x", "axis", "of", "each", "graph", "show", "the", "number", "of", "queries", "in", "each", "bucket", "(e.g.", "the", "right-most", "bucket", "contains", "1,629", "queries).", "BM25F", "performs", "best", "for", "medium-specific", "queries,", "peaking", "at", "the", "buckets", "representing", "the", "IDF", "sum", "interval", "[12,14).", "By", "comparison,", "HITS", "peaks", "at", "the", "bucket", "representing", "the", "IDF", "sum", "interval", "[4,6),", "and", "PageRank", "and", "in-degree", "peak", "at", "the", "bucket", "representing", "the", "interval", "[6,8),", "i.e.", "more", "general", "queries.", "8.", "CONCLUSIONS", "AND", "FUTURE", "WORK", "This", "paper", "describes", "a", "large-scale", "evaluation", "of", "the", "effectiveness", "of", "HITS", "in", "comparison", "with", "other", "link-based", "ranking", "algorithms,", "in", "particular", "PageRank", "and", "in-degree,", "when", "applied", "in", "isolation", "or", "in", "combination", "with", "a", "text", "retrieval", "algorithm", "exploiting", "anchor", "text", "(BM25F).", "Evaluation", "is", "carried", "out", "with", "respect", "to", "a", "large", "number", "of", "human", "evaluated", "queries,", "using", "three", "different", "measures", "of", "effectiveness:", "NDCG,", "MRR,", "and", "MAP.", "Evaluating", "link-based", "features", "in", "isolation,", "we", "found", "that", "web", "page", "in-degree", "outperforms", "PageRank,", "and", "is", "about", "as", "effwective", "as", "HITS", "authority", "scores.", "HITS", "hub", "scores", "and", "web", "page", "out-degree", "are", "much", "less", "effective", "ranking", "features,", "but", "still", "outperform", "a", "random", "ordering.", "A", "linear", "combination", "of", "any", "link-based", "features", "with", "BM25F", "produces", "a", "significant", "improvement", "in", "performance,", "and", "there", "is", "a", "clear", "difference", "between", "combining", "BM25F", "with", "a", "feature", "based", "on", "incoming", "links", "(indegree,", "PageRank,", "or", "HITS", "authority", "scores)", "and", "a", "feature", "based", "on", "outgoing", "links", "(HITS", "hub", "scores", "and", "out-degree),", "but", "within", "those", "two", "groups", "the", "precise", "choice", "of", "link-based", "feature", "matters", "relatively", "little.", "We", "believe", "that", "the", "measurements", "presented", "in", "this", "paper", "provide", "a", "solid", "evaluation", "of", "the", "best", "well-known", "link-based", "ranking", "schemes.", "There", "are", "many", "possible", "variants", "of", "these", "schemes,", "and", "many", "other", "link-based", "ranking", "algorithms", "have", "been", "proposed", "in", "the", "literature,", "hence", "we", "do", "not", "claim", "this", "work", "to", "be", "the", "last", "word", "on", "this", "subject,", "but", "rather", "the", "first", "step", "on", "a", "long", "road.", "Future", "work", "includes", "evaluation", "of", "different", "parameterizations", "of", "PageRank", "and", "HITS.", "In", "particular,", "we", "would", "like", "to", "study", "the", "impact", "of", "changes", "to", "the", "PageRank", "damping", "factor", "on", "effectiveness,", "the", "impact", "of", "various", "schemes", "meant", "to", "counteract", "the", "effects", "of", "link", "spam,", "and", "the", "effect", "of", "weighing", "hyperlinks", "differently", "depending", "on", "whether", "they", "are", "nepotistic", "or", "not.", "Going", "beyond", "PageRank", "and", "HITS,", "we", "would", "like", "to", "measure", "the", "effectiveness", "of", "other", "link-based", "ranking", "algorithms,", "such", "as", "SALSA.", "Finally,", "we", "are", "planning", "to", "experiment", "with", "more", "complex", "feature", "combinations.", "9.", "REFERENCES", "[1]", "B.", "Amento,", "L.", "Terveen,", "and", "W.", "Hill.", "Does", "authority", "mean", "quality?", "Predicting", "expert", "quality", "ratings", "of", "web", "documents.", "In", "Proc.", "of", "the", "23rd", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval,", "pages", "296-303,", "2000.", "[2]", "M.", "Bianchini,", "M.", "Gori,", "and", "F.", "Scarselli.", "Inside", "PageRank.", "ACM", "Transactions", "on", "Internet", "Technology,", "5(1):92-128,", "2005.", "[3]", "A.", "Borodin,", "G.", "O.", "Roberts,", "and", "J.", "S.", "Rosenthal.", "Finding", "authorities", "and", "hubs", "from", "link", "structures", "on", "the", "World", "Wide", "Web.", "In", "Proc.", "of", "the", "10th", "International", "World", "Wide", "Web", "Conference,", "pages", "415-429,", "2001.", "[4]", "A.", "Borodin,", "G.", "O.", "Roberts,", "J.", "S.", "Rosenthal,", "and", "P.", "Tsaparas.", "Link", "analysis", "ranking:", "algorithms,", "theory,", "and", "experiments.", "ACM", "Transactions", "on", "Interet", "Technology,", "5(1):231-297,", "2005.", "[5]", "S.", "Brin", "and", "L.", "Page.", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "Web", "search", "engine.", "Computer", "Networks", "and", "ISDN", "Systems,", "30(1-7):107-117,", "1998.", "[6]", "C.", "Burges,", "T.", "Shaked,", "E.", "Renshaw,", "A.", "Lazier,", "M.", "Deeds,", "N.", "Hamilton,", "and", "G.", "Hullender.", "Learning", "to", "rank", "using", "gradient", "descent.", "In", "Proc.", "of", "the", "22nd", "International", "Conference", "on", "Machine", "Learning,", "pages", "89-96,", "New", "York,", "NY,", "USA,", "2005.", "ACM", "Press.", "[7]", "D.", "Cohn", "and", "H.", "Chang.", "Learning", "to", "probabilistically", "identify", "authoritative", "documents.", "In", "Proc.", "of", "the", "17th", "International", "Conference", "on", "Machine", "Learning,", "pages", "167-174,", "2000.", "[8]", "N.", "Craswell,", "S.", "Robertson,", "H.", "Zaragoza,", "and", "M.", "Taylor.", "Relevance", "weighting", "for", "query", "independent", "evidence.", "In", "Proc.", "of", "the", "28th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval,", "pages", "416-423,", "2005.", "[9]", "E.", "Garfield.", "Citation", "analysis", "as", "a", "tool", "in", "journal", "evaluation.", "Science,", "178(4060):471-479,", "1972.", "[10]", "Z.", "Gy¨ongyi", "and", "H.", "Garcia-Molina.", "Web", "spam", "taxonomy.", "In", "1st", "International", "Workshop", "on", "Adversarial", "Information", "Retrieval", "on", "the", "Web,", "2005.", "[11]", "Z.", "Gy¨ongyi,", "H.", "Garcia-Molina,", "and", "J.", "Pedersen.", "Combating", "web", "spam", "with", "TrustRank.", "In", "Proc.", "of", "the", "30th", "International", "Conference", "on", "Very", "Large", "Databases,", "pages", "576-587,", "2004.", "[12]", "B.", "J.", "Jansen,", "A.", "Spink,", "J.", "Bateman,", "and", "T.", "Saracevic.", "Real", "life", "information", "retrieval:", "a", "study", "of", "user", "queries", "on", "the", "web.", "ACM", "SIGIR", "Forum,", "32(1):5-17,", "1998.", "[13]", "K.", "J¨arvelin", "and", "J.", "Kek¨al¨ainen.", "Cumulated", "gain-based", "evaluation", "of", "IR", "techniques.", "ACM", "Transactions", "on", "Information", "Systems,", "20(4):422-446,", "2002.", "[14]", "S.", "D.", "Kamvar,", "T.", "H.", "Haveliwala,", "C.", "D.", "Manning,", "and", "G.", "H.", "Golub.", "Extrapolation", "methods", "for", "accelerating", "PageRank", "computations.", "In", "Proc.", "of", "the", "12th", "International", "World", "Wide", "Web", "Conference,", "pages", "261-270,", "2003.", "[15]", "M.", "M.", "Kessler.", "Bibliographic", "coupling", "between", "scientific", "papers.", "American", "Documentation,", "14(1):10-25,", "1963.", "[16]", "J.", "M.", "Kleinberg.", "Authoritative", "sources", "in", "a", "hyperlinked", "environment.", "In", "Proc.", "of", "the", "9th", "Annual", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms,", "pages", "668-677,", "1998.", "[17]", "J.", "M.", "Kleinberg.", "Authoritative", "sources", "in", "a", "hyperlinked", "environment.", "Journal", "of", "the", "ACM,", "46(5):604-632,", "1999.", "[18]", "A.", "N.", "Langville", "and", "C.", "D.", "Meyer.", "Deeper", "inside", "PageRank.", "Internet", "Mathematics,", "1(3):2005,", "335-380.", "[19]", "R.", "Lempel", "and", "S.", "Moran.", "The", "stochastic", "approach", "for", "link-structure", "analysis", "(SALSA)", "and", "the", "TKC", "effect.", "Computer", "Networks", "and", "ISDN", "Systems,", "33(1-6):387-401,", "2000.", "[20]", "A.", "Y.", "Ng,", "A.", "X.", "Zheng,", "and", "M.", "I.", "Jordan.", "Stable", "algorithms", "for", "link", "analysis.", "In", "Proc.", "of", "the", "24th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval,", "pages", "258-266,", "2001.", "[21]", "L.", "Page,", "S.", "Brin,", "R.", "Motwani,", "and", "T.", "Winograd.", "The", "PageRank", "citation", "ranking:", "Bringing", "order", "to", "the", "web.", "Technical", "report,", "Stanford", "Digital", "Library", "Technologies", "Project,", "1998.", "[22]", "J.", "A.", "Tomlin.", "A", "new", "paradigm", "for", "ranking", "pages", "on", "the", "World", "Wide", "Web.", "In", "Proc.", "of", "the", "12th", "International", "World", "Wide", "Web", "Conference,", "pages", "350-355,", "2003.", "[23]", "T.", "Upstill,", "N.", "Craswell,", "and", "D.", "Hawking.", "Predicting", "fame", "and", "fortune:", "Pagerank", "or", "indegree?", "In", "Proc.", "of", "the", "Australasian", "Document", "Computing", "Symposium,", "pages", "31-40,", "2003.", "[24]", "H.", "Zaragoza,", "N.", "Craswell,", "M.", "Taylor,", "S.", "Saria,", "and", "S.", "Robertson.", "Microsoft", "Cambridge", "at", "TREC-13:", "Web", "and", "HARD", "tracks.", "In", "Proc.", "of", "the", "13th", "Text", "Retrieval", "Conference,", "2004." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
I-74	[ "On", "the", "relevance", "of", "utterances", "in", "formal", "inter-agent", "dialogues", "Simon", "Parsons1", "Peter", "McBurney2", "1", "Department", "of", "Computer", "&", "Information", "Science", "Brooklyn", "College,", "City", "University", "of", "New", "York", "Brooklyn", "NY", "11210", "USA", "{parsons,sklar}@sci.brooklyn.cuny.edu", "Elizabeth", "Sklar1", "Michael", "Wooldridge2", "2", "Department", "of", "Computer", "Science", "University", "of", "Liverpool", "Liverpool", "L69", "7ZF", "UK", "{p.j.mcburney,m.j.wooldridge}@csc.liv.ac.uk", "ABSTRACT", "Work", "on", "argumentation-based", "dialogue", "has", "defined", "frameworks", "within", "which", "dialogues", "can", "be", "carried", "out,", "established", "protocols", "that", "govern", "dialogues,", "and", "studied", "different", "properties", "of", "dialogues.", "This", "work", "has", "established", "the", "space", "in", "which", "agents", "are", "permitted", "to", "interact", "through", "dialogues.", "Recently,", "there", "has", "been", "increasing", "interest", "in", "the", "mechanisms", "agents", "might", "use", "to", "choose", "how", "to", "act", "-", "the", "rhetorical", "manoeuvring", "that", "they", "use", "to", "navigate", "through", "the", "space", "defined", "by", "the", "rules", "of", "the", "dialogue.", "Key", "in", "such", "considerations", "is", "the", "idea", "of", "relevance,", "since", "a", "usual", "requirement", "is", "that", "agents", "stay", "focussed", "on", "the", "subject", "of", "the", "dialogue", "and", "only", "make", "relevant", "remarks.", "Here", "we", "study", "several", "notions", "of", "relevance,", "showing", "how", "they", "can", "be", "related", "to", "both", "the", "rules", "for", "carrying", "out", "dialogues", "and", "to", "rhetorical", "manoeuvring.", "Categories", "and", "Subject", "Descriptors", "I.2.11", "[Artificial", "Intelligence]:", "Distributed", "Artificial", "Intelligence:", "Coherence", "&", "co-ordination;", "languages", "&", "structures;", "multiagent", "systems.", "General", "Terms", "Design,", "languages,", "theory.", "1.", "INTRODUCTION", "Finding", "ways", "for", "agents", "to", "reach", "agreements", "in", "multiagent", "systems", "is", "an", "area", "of", "active", "research.", "One", "mechanism", "for", "achieving", "agreement", "is", "through", "the", "use", "of", "argumentation", "-", "where", "one", "agent", "tries", "to", "convince", "another", "agent", "of", "something", "during", "the", "course", "of", "some", "dialogue.", "Early", "examples", "of", "argumentation-based", "approaches", "to", "multiagent", "agreement", "include", "the", "work", "of", "Dignum", "et", "al.", "[7],", "Kraus", "[14],", "Parsons", "and", "Jennings", "[16],", "Reed", "[23],", "Schroeder", "et", "al.", "[25]", "and", "Sycara", "[26].", "The", "work", "of", "Walton", "and", "Krabbe", "[27],", "popularised", "in", "the", "multiagent", "systems", "community", "by", "Reed", "[23],", "has", "been", "particularly", "influential", "in", "the", "field", "of", "argumentation-based", "dialogue.", "This", "work", "influenced", "the", "field", "in", "a", "number", "of", "ways,", "perhaps", "most", "deeply", "in", "framing", "multi-agent", "interactions", "as", "dialogue", "games", "in", "the", "tradition", "of", "Hamblin", "[13].", "Viewing", "dialogues", "in", "this", "way,", "as", "in", "[2,", "21],", "provides", "a", "powerful", "framework", "for", "analysing", "the", "formal", "properties", "of", "dialogues,", "and", "for", "identifying", "suitable", "protocols", "under", "which", "dialogues", "can", "be", "conducted", "[18,", "20].", "The", "dialogue", "game", "view", "overlaps", "with", "work", "on", "conversation", "policies", "(see,", "for", "example,", "[6,", "10]),", "but", "differs", "in", "considering", "the", "entire", "dialogue", "rather", "than", "dialogue", "segments.", "In", "this", "paper,", "we", "extend", "the", "work", "of", "[18]", "by", "considering", "the", "role", "of", "relevance", "-", "the", "relationship", "between", "utterances", "in", "a", "dialogue.", "Relevance", "is", "a", "topic", "of", "increasing", "interest", "in", "argumentation-based", "dialogue", "because", "it", "relates", "to", "the", "scope", "that", "an", "agent", "has", "for", "applying", "strategic", "manoeuvering", "to", "obtain", "the", "outcomes", "that", "it", "requires", "[19,", "22,", "24].", "Our", "work", "identifes", "the", "limits", "on", "such", "rhetorical", "manoeuvering,", "showing", "when", "it", "can", "and", "cannot", "have", "an", "effect.", "2.", "BACKGROUND", "We", "begin", "by", "introducing", "the", "formal", "system", "of", "argumentation", "that", "underpins", "our", "approach,", "as", "well", "as", "the", "corresponding", "terminology", "and", "notation,", "all", "taken", "from", "[2,", "8,", "17].", "A", "dialogue", "is", "a", "sequence", "of", "messages", "passed", "between", "two", "or", "more", "members", "of", "a", "set", "of", "agents", "A.", "An", "agent", "α", "maintains", "a", "knowledge", "base,", "Σα,", "containing", "formulas", "of", "a", "propositional", "language", "L", "and", "having", "no", "deductive", "closure.", "Agent", "α", "also", "maintains", "the", "set", "of", "its", "past", "utterances,", "called", "the", "commitment", "store,", "CSα.", "We", "refer", "to", "this", "as", "an", "agent\"s", "public", "knowledge,", "since", "it", "contains", "information", "that", "is", "shared", "with", "other", "agents.", "In", "contrast,", "the", "contents", "of", "Σα", "are", "private", "to", "α.", "Note", "that", "in", "the", "description", "that", "follows,", "we", "assume", "that", "is", "the", "classical", "inference", "relation,", "that", "≡", "stands", "for", "logical", "equivalence,", "and", "we", "use", "Δ", "to", "denote", "all", "the", "information", "available", "to", "an", "agent.", "Thus", "in", "a", "dialogue", "between", "two", "agents", "α", "and", "β,", "Δα", "=", "Σα", "∪", "CSα", "∪", "CSβ,", "so", "the", "commitment", "store", "CSα", "can", "be", "loosely", "thought", "of", "as", "a", "subset", "of", "Δα", "consisting", "of", "the", "assertions", "that", "have", "been", "made", "public.", "In", "some", "dialogue", "games,", "such", "as", "those", "in", "[18]", "anything", "in", "CSα", "is", "either", "in", "Σα", "or", "can", "be", "derived", "from", "it.", "In", "other", "dialogue", "games,", "such", "as", "1006", "978-81-904262-7-5", "(RPS)", "c", "2007", "IFAAMAS", "those", "in", "[2],", "CSα", "may", "contain", "things", "that", "cannot", "be", "derived", "from", "Σα.", "Definition", "2.1.", "An", "argument", "A", "is", "a", "pair", "(S,", "p)", "where", "p", "is", "a", "formula", "of", "L", "and", "S", "a", "subset", "of", "Δ", "such", "that", "(i)", "S", "is", "consistent;", "(ii)", "S", "p;", "and", "(iii)", "S", "is", "minimal,", "so", "no", "proper", "subset", "of", "S", "satisfying", "both", "(1)", "and", "(2)", "exists.", "S", "is", "called", "the", "support", "of", "A,", "written", "S", "=", "Support(A)", "and", "p", "is", "the", "conclusion", "of", "A,", "written", "p", "=", "Conclusion(A).", "Thus", "we", "talk", "of", "p", "being", "supported", "by", "the", "argument", "(S,", "p).", "In", "general,", "since", "Δ", "may", "be", "inconsistent,", "arguments", "in", "A(Δ),", "the", "set", "of", "all", "arguments", "which", "can", "be", "made", "from", "Δ,", "may", "conflict,", "and", "we", "make", "this", "idea", "precise", "with", "the", "notion", "of", "undercutting:", "Definition", "2.2.", "Let", "A1", "and", "A2", "be", "arguments", "in", "A(Δ).", "A1", "undercuts", "A2", "iff", "∃¬p", "∈", "Support(A2)", "such", "that", "p", "≡", "Conclusion(A1).", "In", "other", "words,", "an", "argument", "is", "undercut", "if", "and", "only", "if", "there", "is", "another", "argument", "which", "has", "as", "its", "conclusion", "the", "negation", "of", "an", "element", "of", "the", "support", "for", "the", "first", "argument.", "To", "capture", "the", "fact", "that", "some", "beliefs", "are", "more", "strongly", "held", "than", "others,", "we", "assume", "that", "any", "set", "of", "beliefs", "has", "a", "preference", "order", "over", "it.", "We", "consider", "all", "information", "available", "to", "an", "agent,", "Δ,", "to", "be", "stratified", "into", "non-overlapping", "subsets", "Δ1,", ".", ".", ".", ",", "Δn", "such", "that", "beliefs", "in", "Δi", "are", "all", "equally", "preferred", "and", "are", "preferred", "over", "elements", "in", "Δj", "where", "i", ">", "j.", "The", "preference", "level", "of", "a", "nonempty", "subset", "S", "⊂", "Δ,", "where", "different", "elements", "s", "∈", "S", "may", "belong", "to", "different", "layers", "Δi,", "is", "valued", "at", "the", "highest", "numbered", "layer", "which", "has", "a", "member", "in", "S", "and", "is", "referred", "to", "as", "level(S).", "In", "other", "words,", "S", "is", "only", "as", "strong", "as", "its", "weakest", "member.", "Note", "that", "the", "strength", "of", "a", "belief", "as", "used", "in", "this", "context", "is", "a", "separate", "concept", "from", "the", "notion", "of", "support", "discussed", "earlier.", "Definition", "2.3.", "Let", "A1", "and", "A2", "be", "arguments", "in", "A(Δ).", "A1", "is", "preferred", "to", "A2", "according", "to", "Pref", ",", "A1", "Pref", "A2,", "iff", "level(Support(A1))", ">", "level(Support(A2)).", "If", "A1", "is", "preferred", "to", "A2,", "we", "say", "that", "A1", "is", "stronger", "than", "A2.", "We", "can", "now", "define", "the", "argumentation", "system", "we", "will", "use:", "Definition", "2.4.", "An", "argumentation", "system", "is", "a", "triple:", "A(Δ),", "Undercut,", "Pref", "such", "that:", "•", "A(Δ)", "is", "a", "set", "of", "the", "arguments", "built", "from", "Δ,", "•", "Undercut", "is", "a", "binary", "relation", "representing", "the", "defeat", "relationship", "between", "arguments,", "Undercut", "⊆", "A(Δ)", "×", "A(Δ),", "and", "•", "Pref", "is", "a", "pre-ordering", "on", "A(Δ)", "×", "A(Δ).", "The", "preference", "order", "makes", "it", "possible", "to", "distinguish", "different", "types", "of", "relations", "between", "arguments:", "Definition", "2.5.", "Let", "A1,", "A2", "be", "two", "arguments", "of", "A(Δ).", "•", "If", "A2", "undercuts", "A1", "then", "A1", "defends", "itself", "against", "A2", "iff", "A1", "Pref", "A2.", "Otherwise,", "A1", "does", "not", "defend", "itself.", "•", "A", "set", "of", "arguments", "A", "defends", "A1", "iff", "for", "every", "A2", "that", "undercuts", "A1,", "where", "A1", "does", "not", "defend", "itself", "against", "A2,", "then", "there", "is", "some", "A3", "∈", "A", "such", "that", "A3", "undercuts", "A2", "and", "A2", "does", "not", "defend", "itself", "against", "A3.", "We", "write", "AUndercut,Pref", "to", "denote", "the", "set", "of", "all", "non-undercut", "arguments", "and", "arguments", "defending", "themselves", "against", "all", "their", "undercutting", "arguments.", "The", "set", "A(Δ)", "of", "acceptable", "arguments", "of", "the", "argumentation", "system", "A(Δ),", "Undercut,", "Pref", "is", "[1]", "the", "least", "fixpoint", "of", "a", "function", "F:", "A", "⊆", "A(Δ)", "F(A)", "=", "{(S,", "p)", "∈", "A(Δ)", "\|", "(S,", "p)", "is", "defended", "by", "A}", "Definition", "2.6.", "The", "set", "of", "acceptable", "arguments", "for", "an", "argumentation", "system", "A(Δ),", "Undercut,", "Pref", "is", "recursively", "defined", "as:", "A(Δ)", "=", "[", "Fi≥0(∅)", "=", "AUndercut,Pref", "∪", "h[", "Fi≥1(AUndercut,Pref", ")", "i", "An", "argument", "is", "acceptable", "if", "it", "is", "a", "member", "of", "the", "acceptable", "set,", "and", "a", "proposition", "is", "acceptable", "if", "it", "is", "the", "conclusion", "of", "an", "acceptable", "argument.", "An", "acceptable", "argument", "is", "one", "which", "is,", "in", "some", "sense,", "proven", "since", "all", "the", "arguments", "which", "might", "undermine", "it", "are", "themselves", "undermined.", "Definition", "2.7.", "If", "there", "is", "an", "acceptable", "argument", "for", "a", "proposition", "p,", "then", "the", "status", "of", "p", "is", "accepted,", "while", "if", "there", "is", "not", "an", "acceptable", "argument", "for", "p,", "the", "status", "of", "p", "is", "not", "accepted.", "Argument", "A", "is", "said", "to", "affect", "the", "status", "of", "another", "argument", "A", "if", "changing", "the", "status", "of", "A", "will", "change", "the", "status", "of", "A", ".", "3.", "DIALOGUES", "Systems", "like", "those", "described", "in", "[2,", "18],", "lay", "down", "sets", "of", "locutions", "that", "agents", "can", "make", "to", "put", "forward", "propositions", "and", "the", "arguments", "that", "support", "them,", "and", "protocols", "that", "define", "precisely", "which", "locutions", "can", "be", "made", "at", "which", "points", "in", "the", "dialogue.", "We", "are", "not", "concerned", "with", "such", "a", "level", "of", "detail", "here.", "Instead", "we", "are", "interested", "in", "the", "interplay", "between", "arguments", "that", "agents", "put", "forth.", "As", "a", "result,", "we", "will", "consider", "only", "that", "agents", "are", "allowed", "to", "put", "forward", "arguments.", "We", "do", "not", "discuss", "the", "detail", "of", "the", "mechanism", "that", "is", "used", "to", "put", "these", "arguments", "forward", "-", "we", "just", "assume", "that", "arguments", "of", "the", "form", "(S,", "p)", "are", "inserted", "into", "an", "agent\"s", "commitment", "store", "where", "they", "are", "then", "visible", "to", "other", "agents.", "We", "then", "have", "a", "typical", "definition", "of", "a", "dialogue:", "Definition", "3.1.", "A", "dialogue", "D", "is", "a", "sequence", "of", "moves:", "m1,", "m2,", ".", ".", ".", ",", "mn.", "A", "given", "move", "mi", "is", "a", "pair", "α,", "Ai", "where", "Ai", "is", "an", "argument", "that", "α", "places", "into", "its", "commitment", "store", "CSα.", "Moves", "in", "an", "argumentation-based", "dialogue", "typically", "attack", "moves", "that", "have", "been", "made", "previously.", "While,", "in", "general,", "a", "dialogue", "can", "include", "moves", "that", "undercut", "several", "arguments,", "in", "the", "remainder", "of", "this", "paper,", "we", "will", "only", "consider", "dialogues", "that", "put", "forward", "moves", "that", "undercut", "at", "most", "one", "argument.", "For", "now", "we", "place", "no", "additional", "constraints", "on", "the", "moves", "that", "make", "up", "a", "dialogue.", "Later", "we", "will", "see", "how", "different", "restrictions", "on", "moves", "lead", "to", "different", "kinds", "of", "dialogue.", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "1007", "The", "sequence", "of", "arguments", "put", "forward", "in", "the", "dialogue", "is", "determined", "by", "the", "agents", "who", "are", "taking", "part", "in", "the", "dialogue,", "but", "they", "are", "usually", "not", "completely", "free", "to", "choose", "what", "arguments", "they", "make.", "As", "indicated", "earlier,", "their", "choice", "is", "typically", "limited", "by", "a", "protocol.", "If", "we", "write", "the", "sequence", "of", "n", "moves", "m1,", "m2,", ".", ".", ".", ",", "mn", "as", "mn,", "and", "denote", "the", "empty", "sequence", "as", "m0,", "then", "we", "can", "define", "a", "profocol", "in", "the", "following", "way:", "Definition", "3.2.", "A", "protocol", "P", "is", "a", "function", "on", "a", "sequence", "of", "moves", "mi", "in", "a", "dialogue", "D", "that,", "for", "all", "i", "≥", "0,", "identifies", "a", "set", "of", "possible", "moves", "Mi+1", "from", "which", "the", "mi+1th", "move", "may", "be", "drawn:", "P", ":", "mi", "→", "Mi+1", "In", "other", "words,", "for", "our", "purposes", "here,", "at", "every", "point", "in", "a", "dialogue,", "a", "protocol", "determines", "a", "set", "of", "possible", "moves", "that", "agents", "may", "make", "as", "part", "of", "the", "dialogue.", "If", "a", "dialogue", "D", "always", "picks", "its", "moves", "m", "from", "the", "set", "M", "identified", "by", "protocol", "P,", "then", "D", "is", "said", "to", "conform", "to", "P.", "Even", "if", "a", "dialogue", "conforms", "to", "a", "protocol,", "it", "is", "typically", "the", "case", "that", "the", "agent", "engaging", "in", "the", "dialogue", "has", "to", "make", "a", "choice", "of", "move", "-", "it", "has", "to", "choose", "which", "of", "the", "moves", "in", "M", "to", "make.", "This", "excercise", "of", "choice", "is", "what", "we", "refer", "to", "as", "an", "agent\"s", "use", "of", "rhetoric", "(in", "its", "oratorical", "sense", "of", "influencing", "the", "thought", "and", "conduct", "of", "an", "audience).", "Some", "of", "our", "results", "will", "give", "a", "sense", "of", "how", "much", "scope", "an", "agent", "has", "to", "exercise", "rhetoric", "under", "different", "protocols.", "As", "arguments", "are", "placed", "into", "commitment", "stores,", "and", "hence", "become", "public,", "agents", "can", "determine", "the", "relationships", "between", "them.", "In", "general,", "after", "several", "moves", "in", "a", "dialogue,", "some", "arguments", "will", "undercut", "others.", "We", "will", "denote", "the", "set", "of", "arguments", "{A1,", "A2,", ".", ".", ".", ",", "Aj}", "asserted", "after", "moves", "m1,", "m2,", ".", ".", ".", ",", "mj", "of", "a", "dialogue", "to", "be", "Aj", "-", "the", "relationship", "of", "the", "arguments", "in", "Aj", "can", "be", "described", "as", "an", "argumentation", "graph,", "similar", "to", "those", "described", "in,", "for", "example,", "[3,", "4,", "9]:", "Definition", "3.3.", "An", "argumentation", "graph", "AG", "over", "a", "set", "of", "arguments", "A", "is", "a", "directed", "graph", "(V,", "E)", "such", "that", "every", "vertex", "v,", "v", "∈", "V", "denotes", "one", "argument", "A", "∈", "A,", "every", "argument", "A", "is", "denoted", "by", "one", "vertex", "v,", "and", "every", "directed", "edge", "e", "∈", "E", "from", "v", "to", "v", "denotes", "that", "v", "undercuts", "v", ".", "We", "will", "use", "the", "term", "argument", "graph", "as", "a", "synonym", "for", "argumentation", "graph.", "Note", "that", "we", "do", "not", "require", "that", "the", "argumentation", "graph", "is", "connected.", "In", "other", "words", "the", "notion", "of", "an", "argumentation", "graph", "allows", "for", "the", "representation", "of", "arguments", "that", "do", "not", "relate,", "by", "undercutting", "or", "being", "undercut,", "to", "any", "other", "arguments", "(we", "will", "come", "back", "to", "this", "point", "very", "shortly).", "We", "adapt", "some", "standard", "graph", "theoretic", "notions", "in", "order", "to", "describe", "various", "aspects", "of", "the", "argumentation", "graph.", "If", "there", "is", "an", "edge", "e", "from", "vertex", "v", "to", "vertex", "v", ",", "then", "v", "is", "said", "to", "be", "the", "parent", "of", "v", "and", "v", "is", "said", "to", "be", "the", "child", "of", "v.", "In", "a", "reversal", "of", "the", "usual", "notion,", "we", "define", "a", "root", "of", "an", "argumentation", "graph1", "as", "follows:", "Definition", "3.4.", "A", "root", "of", "an", "argumentation", "graph", "AG", "=", "(V,", "E)", "is", "a", "node", "v", "∈", "V", "that", "has", "no", "children.", "Thus", "a", "root", "of", "a", "graph", "is", "a", "node", "to", "which", "directed", "edges", "may", "be", "connected,", "but", "from", "which", "no", "directed", "edges", "connect", "to", "other", "nodes.", "Thus", "a", "root", "is", "a", "node", "representing", "an", "1", "Note", "that", "we", "talk", "of", "a", "root", "rather", "than", "the", "root", "-", "as", "defined,", "an", "argumentation", "graph", "need", "not", "be", "a", "tree.", "v", "v\"", "Figure", "1:", "An", "example", "argument", "graph", "argument", "that", "is", "undercut,", "but", "which", "itself", "does", "no", "undercutting.", "Similarly:", "Definition", "3.5.", "A", "leaf", "of", "an", "argumentation", "graph", "AG", "=", "(V,", "E)", "is", "a", "node", "v", "∈", "V", "that", "has", "no", "parents.", "Thus", "a", "leaf", "in", "an", "argumentation", "graph", "represents", "an", "argument", "that", "undercuts", "another", "argument,", "but", "does", "no", "undercutting.", "Thus", "in", "Figure", "1,", "v", "is", "a", "root,", "and", "v", "is", "a", "leaf.", "The", "reason", "for", "the", "reversal", "of", "the", "usual", "notions", "of", "root", "and", "leaf", "is", "that,", "as", "we", "shall", "see,", "we", "will", "consider", "dialogues", "to", "construct", "argumentation", "graphs", "from", "the", "roots", "(in", "our", "sense)", "to", "the", "leaves.", "The", "reversal", "of", "the", "terminology", "means", "that", "it", "matches", "the", "natural", "process", "of", "tree", "construction.", "Since,", "as", "described", "above,", "argumentation", "graphs", "are", "allowed", "to", "be", "not", "connected", "(in", "the", "usual", "graph", "theory", "sense),", "it", "is", "helpful", "to", "distinguish", "nodes", "that", "are", "connected", "to", "other", "nodes,", "in", "particular", "to", "the", "root", "of", "the", "tree.", "We", "say", "that", "node", "v", "is", "connected", "to", "node", "v", "if", "and", "only", "if", "there", "is", "a", "path", "from", "v", "to", "v", ".", "Since", "edges", "represent", "undercut", "relations,", "the", "notion", "of", "connectedness", "between", "nodes", "captures", "the", "influence", "that", "one", "argument", "may", "have", "on", "another:", "Proposition", "3.1.", "Given", "an", "argumentation", "graph", "AG,", "if", "there", "is", "any", "argument", "A,", "denoted", "by", "node", "v", "that", "affects", "the", "status", "of", "another", "argument", "A", ",", "denoted", "by", "v", ",", "then", "v", "is", "connected", "to", "v", ".", "The", "converse", "does", "not", "hold.", "Proof.", "Given", "Definitions", "2.5", "and", "2.6,", "the", "only", "ways", "in", "which", "A", "can", "affect", "the", "status", "of", "A", "is", "if", "A", "either", "undercuts", "A", ",", "or", "if", "A", "undercuts", "some", "argument", "A", "that", "undercuts", "A", ",", "or", "if", "A", "undercuts", "some", "A", "that", "undercuts", "some", "A", "that", "undercuts", "A", ",", "and", "so", "on.", "In", "all", "such", "cases,", "a", "sequence", "of", "undercut", "relations", "relates", "the", "two", "arguments,", "and", "if", "they", "are", "both", "in", "an", "argumentation", "graph,", "this", "means", "that", "they", "are", "connected.", "Since", "the", "notion", "of", "path", "ignores", "the", "direction", "of", "the", "directed", "arcs,", "nodes", "v", "and", "v", "are", "connected", "whether", "the", "edge", "between", "them", "runs", "from", "v", "to", "v", "or", "vice", "versa.", "Since", "A", "only", "undercuts", "A", "if", "the", "edge", "runs", "from", "v", "to", "v", ",", "we", "cannot", "infer", "that", "A", "will", "affect", "the", "status", "of", "A", "from", "information", "about", "whether", "or", "not", "they", "are", "connected.", "The", "reason", "that", "we", "need", "the", "concept", "of", "the", "argumentation", "graph", "is", "that", "the", "properties", "of", "the", "argumentation", "graph", "tell", "us", "something", "about", "the", "set", "of", "arguments", "A", "the", "graph", "represents.", "When", "that", "set", "of", "arguments", "is", "constructed", "through", "a", "dialogue,", "there", "is", "a", "relationship", "between", "the", "structure", "of", "the", "argumentation", "graph", "and", "the", "protocol", "that", "governs", "the", "dialogue.", "It", "is", "the", "extent", "of", "the", "relationship", "between", "structure", "and", "protocol", "that", "is", "the", "main", "subject", "of", "this", "paper.", "To", "study", "this", "relationship,", "we", "need", "to", "establish", "a", "correspondence", "between", "a", "dialogue", "and", "an", "argumentation", "graph.", "Given", "the", "definitions", "we", "have", "so", "far,", "this", "is", "simple:", "Definition", "3.6.", "A", "dialogue", "D,", "consisting", "of", "a", "sequence", "of", "moves", "mn,", "and", "an", "argument", "graph", "AG", "=", "(V,", "E)", "correspond", "to", "one", "another", "iff", "∀m", "∈", "mn,", "the", "argument", "Ai", "that", "1008", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "is", "advanced", "at", "move", "mi", "is", "represented", "by", "exactly", "one", "node", "v", "∈", "V", ",", "and", "∀v", "∈", "V", ",", "v", "represents", "exactly", "one", "argument", "Ai", "that", "has", "been", "advanced", "by", "a", "move", "m", "∈", "mn.", "Thus", "a", "dialogue", "corresponds", "to", "an", "argumentation", "graph", "if", "and", "only", "if", "every", "argument", "made", "in", "the", "dialogue", "corresponds", "to", "a", "node", "in", "the", "graph,", "and", "every", "node", "in", "the", "graph", "corresponds", "to", "an", "argument", "made", "in", "the", "dialogue.", "This", "one-toone", "correspondence", "allows", "us", "to", "consider", "each", "node", "v", "in", "the", "graph", "to", "have", "an", "index", "i", "which", "is", "the", "index", "of", "the", "move", "in", "the", "dialogue", "that", "put", "forward", "the", "argument", "which", "that", "node", "represents.", "Thus", "we", "can,", "for", "example,", "refer", "to", "the", "third", "node", "in", "the", "argumentation", "graph,", "meaning", "the", "node", "that", "represents", "the", "argument", "put", "forward", "in", "the", "third", "move", "of", "the", "dialogue.", "4.", "RELEVANCE", "Most", "work", "on", "dialogues", "is", "concerned", "with", "what", "we", "might", "call", "coherent", "dialogues,", "that", "is", "dialogues", "in", "which", "the", "participants", "are,", "as", "in", "the", "work", "of", "Walton", "and", "Krabbe", "[27],", "focused", "on", "resolving", "some", "question", "through", "the", "dialogue2", "To", "capture", "this", "coherence,", "it", "seems", "we", "need", "a", "notion", "of", "relevance", "to", "constrain", "the", "statements", "made", "by", "agents.", "Here", "we", "study", "three", "notions", "of", "relevance:", "Definition", "4.1.", "Consider", "a", "dialogue", "D,", "consisting", "of", "a", "sequence", "of", "moves", "mi,", "with", "a", "corresponding", "argument", "graph", "AG.", "The", "move", "mi+1,", "i", ">", "1,", "is", "said", "to", "be", "relevant", "if", "one", "or", "more", "of", "the", "following", "hold:", "R1", "Making", "mi+1", "will", "change", "the", "status", "of", "the", "argument", "denoted", "by", "the", "first", "node", "of", "AG.", "R2", "Making", "mi+1", "will", "add", "a", "node", "vi+1", "that", "is", "connected", "to", "the", "first", "node", "of", "AG.", "R3", "Making", "mi+1", "will", "add", "a", "node", "vi+1", "that", "is", "connected", "to", "the", "last", "node", "to", "be", "added", "to", "AG.", "R2-relevance", "is", "the", "form", "of", "relevance", "defined", "by", "[3]", "in", "their", "study", "of", "strategic", "and", "tactical", "reasoning3", ".", "R1-relevance", "was", "suggested", "by", "the", "notion", "used", "in", "[15],", "and", "though", "it", "differs", "somewhat", "from", "that", "suggested", "there,", "we", "believe", "it", "captures", "the", "essence", "of", "its", "predecessor.", "Note", "that", "we", "only", "define", "relevance", "for", "the", "second", "move", "of", "the", "dialogue", "onwards", "because", "the", "first", "move", "is", "taken", "to", "identify", "the", "subject", "of", "the", "dialogue,", "that", "is,", "the", "central", "question", "that", "the", "dialogue", "is", "intended", "to", "answer,", "and", "hence", "it", "must", "be", "relevant", "to", "the", "dialogue,", "no", "matter", "what", "it", "is.", "In", "assuming", "this,", "we", "focus", "our", "attention", "on", "the", "same", "kind", "of", "dialogues", "as", "[18].", "We", "can", "think", "of", "relevance", "as", "enforcing", "a", "form", "of", "parsimony", "on", "a", "dialogue", "-", "it", "prevents", "agents", "from", "making", "statements", "that", "do", "not", "bear", "on", "the", "current", "state", "of", "the", "dialogue.", "This", "promotes", "efficiency,", "in", "the", "sense", "of", "limiting", "the", "number", "of", "moves", "in", "the", "dialogue,", "and,", "as", "in", "[15],", "prevents", "agents", "revealing", "information", "that", "they", "might", "better", "keep", "hidden.", "Another", "form", "of", "parsimony", "is", "to", "insist", "that", "agents", "are", "not", "allowed", "to", "put", "forward", "arguments", "that", "will", "be", "undercut", "by", "arguments", "that", "have", "already", "been", "made", "during", "the", "dialogue.", "We", "therefore", "distinguish", "such", "arguments.", "2", "See", "[11,", "12]", "for", "examples", "of", "dialogues", "where", "this", "is", "not", "the", "case.", "3", "We", "consider", "such", "reasoning", "sub-types", "of", "rhetoric.", "Definition", "4.2.", "Consider", "a", "dialogue", "D,", "consisting", "of", "a", "sequence", "of", "moves", "mi,", "with", "a", "corresponding", "argument", "graph", "AG.", "The", "move", "mi+1", "and", "the", "argument", "it", "puts", "forward,", "Ai+1,", "are", "both", "said", "to", "be", "pre-empted,", "if", "Ai+1", "is", "undercut", "by", "some", "A", "∈", "Ai.", "We", "use", "the", "term", "pre-empted", "because", "if", "such", "an", "argument", "is", "put", "forward,", "it", "can", "seem", "as", "though", "another", "agent", "anticipated", "the", "argument", "being", "made,", "and", "already", "made", "an", "argument", "that", "would", "render", "it", "useless.", "In", "the", "rest", "of", "this", "paper,", "we", "will", "only", "deal", "with", "protocols", "that", "permit", "moves", "that", "are", "relevant,", "in", "any", "of", "the", "senses", "introduced", "above,", "and", "are", "not", "allowed", "to", "be", "pre-empted.", "We", "call", "such", "protocols", "basic", "protocols,", "and", "dialogues", "carried", "out", "under", "such", "protocols", "basic", "dialogues.", "The", "argument", "graph", "of", "a", "basic", "dialogue", "is", "somewhat", "restricted.", "Proposition", "4.1.", "Consider", "a", "basic", "dialogue", "D.", "The", "argumentation", "graph", "AG", "that", "corresponds", "to", "D", "is", "a", "tree", "with", "a", "single", "root.", "Proof.", "Recall", "that", "Definition", "3.3", "requires", "only", "that", "AG", "be", "a", "directed", "graph.", "To", "show", "that", "it", "is", "a", "tree,", "we", "have", "to", "show", "that", "it", "is", "acyclic", "and", "connected.", "That", "the", "graph", "is", "connected", "follows", "from", "the", "construction", "of", "the", "graph", "under", "a", "protocol", "that", "enforces", "relevance.", "If", "the", "notion", "of", "relevance", "is", "R3,", "each", "move", "adds", "a", "node", "that", "is", "connected", "to", "the", "previous", "node.", "If", "the", "notion", "of", "relevance", "is", "R2,", "then", "every", "move", "adds", "a", "node", "that", "is", "connected", "to", "the", "root,", "and", "thus", "is", "connected", "to", "some", "node", "in", "the", "graph.", "If", "the", "notion", "of", "relevance", "is", "R1,", "then", "every", "move", "has", "to", "change", "the", "status", "of", "the", "argument", "denoted", "by", "the", "root.", "Proposition", "3.1", "tells", "us", "that", "to", "affect", "the", "status", "of", "an", "argument", "A", ",", "the", "node", "v", "representing", "the", "argument", "A", "that", "is", "effecting", "the", "change", "has", "to", "be", "connected", "to", "v", ",", "the", "node", "representing", "A", ",", "and", "so", "it", "follows", "that", "every", "new", "node", "added", "as", "a", "result", "of", "an", "R1relevant", "move", "will", "be", "connected", "to", "the", "argumentation", "graph.", "Thus", "AG", "is", "connected.", "Since", "a", "basic", "dialogue", "does", "not", "allow", "moves", "that", "are", "preempted,", "every", "edge", "that", "is", "added", "during", "construction", "is", "directed", "from", "the", "node", "that", "is", "added", "to", "one", "already", "in", "the", "graph", "(thus", "denoting", "that", "the", "argument", "A", "denoted", "by", "the", "added", "node,", "v,", "undercuts", "the", "argument", "A", "denoted", "by", "the", "node", "to", "which", "the", "connection", "is", "made,", "v", ",", "rather", "than", "the", "other", "way", "around).", "Since", "every", "edge", "that", "is", "added", "is", "directed", "from", "the", "new", "node", "to", "the", "rest", "of", "the", "graph,", "there", "can", "be", "no", "cycles.", "Thus", "AG", "is", "a", "tree.", "To", "show", "that", "AG", "has", "a", "single", "root,", "consider", "its", "construction", "from", "the", "initial", "node.", "After", "m1", "the", "graph", "has", "one", "node,", "v1", "that", "is", "both", "a", "root", "and", "a", "leaf.", "After", "m2,", "the", "graph", "is", "two", "nodes", "connected", "by", "an", "edge,", "and", "v1", "is", "now", "a", "root", "and", "not", "a", "leaf.", "v2", "is", "a", "leaf", "and", "not", "a", "root.", "However", "the", "third", "node", "is", "added,", "the", "argument", "earlier", "in", "this", "proof", "demonstrates", "that", "there", "will", "be", "a", "directed", "edge", "from", "it", "to", "some", "other", "node,", "making", "it", "a", "leaf.", "Thus", "v1", "will", "always", "be", "the", "only", "root.", "The", "ruling", "out", "of", "pre-empted", "moves", "means", "that", "v1", "will", "never", "cease", "to", "be", "a", "root,", "and", "so", "the", "argumentation", "graph", "will", "always", "have", "one", "root.", "Since", "every", "argumentation", "graph", "constructed", "by", "a", "basic", "dialogue", "is", "a", "tree", "with", "a", "single", "root,", "this", "means", "that", "the", "first", "node", "of", "every", "argumentation", "graph", "is", "the", "root.", "Although", "these", "results", "are", "straightforward", "to", "obtain,", "they", "allow", "us", "to", "show", "how", "the", "notions", "of", "relevance", "are", "related.", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "1009", "Proposition", "4.2.", "Consider", "a", "basic", "dialogue", "D,", "consisting", "of", "a", "sequence", "of", "moves", "mi,", "with", "a", "corresponding", "argument", "graph", "AG.", "1.", "Every", "move", "mi+1", "that", "is", "R1-relevant", "is", "R2-relevant.", "The", "converse", "does", "not", "hold.", "2.", "Every", "move", "mi+1", "that", "is", "R3-relevant", "is", "R2-relevant.", "The", "converse", "does", "not", "hold.", "3.", "Not", "every", "move", "mi+1", "that", "is", "R1-relevant", "is", "R3-relevant,", "and", "not", "every", "move", "mi+1", "that", "is", "R3-relevant", "is", "R1relevant", "Proof.", "For", "1,", "consider", "how", "move", "mi+1", "can", "satisfy", "R1.", "Proposition", "3.1", "tells", "us", "that", "if", "Ai+1", "can", "change", "the", "status", "of", "the", "argument", "denoted", "by", "the", "root", "v1", "(which,", "as", "observed", "above,", "is", "the", "first", "node)", "of", "AG,", "then", "vi+1", "must", "be", "connected", "to", "the", "root.", "This", "is", "precisely", "what", "is", "required", "to", "satisfy", "R2,", "and", "the", "relatiosnhip", "is", "proved", "to", "hold.", "To", "see", "that", "the", "converse", "does", "not", "hold,", "we", "have", "to", "consider", "what", "it", "takes", "to", "change", "the", "status", "of", "r", "(since", "Proposition", "3.1", "tells", "us", "that", "connectedness", "is", "not", "enough", "to", "ensure", "a", "change", "of", "status", "-", "if", "it", "did,", "R1", "and", "R2", "relevance", "would", "coincide).", "For", "mi+1", "to", "change", "the", "status", "of", "the", "root,", "it", "will", "have", "to", "(1)", "make", "the", "argument", "A", "represented", "by", "r", "either", "unacceptable,", "if", "it", "were", "acceptable", "before", "the", "move,", "or", "(2)", "acceptable", "if", "it", "were", "unacceptable", "before", "the", "move.", "Given", "the", "definition", "of", "acceptability,", "it", "can", "achieve", "(1)", "either", "by", "directly", "undercutting", "the", "argument", "represented", "by", "r,", "in", "which", "case", "vi+1", "will", "be", "directly", "connected", "to", "r", "by", "some", "edge,", "or", "by", "undercutting", "some", "argument", "A", "that", "is", "part", "of", "the", "set", "of", "non-undercut", "arguments", "defending", "A.", "In", "the", "latter", "case,", "vi+1", "will", "be", "directly", "connected", "to", "the", "node", "representing", "A", "and", "by", "Proposition", "4.1", "to", "r.", "To", "achieve", "(2),", "vi+1", "will", "have", "to", "undercut", "an", "argument", "A", "that", "is", "either", "currently", "undercutting", "A,", "or", "is", "undercutting", "an", "argument", "that", "would", "otherwise", "defend", "A.", "Now,", "further", "consider", "that", "mi+1", "puts", "forward", "an", "argument", "Ai+1", "that", "undercuts", "the", "argument", "denoted", "by", "some", "node", "v", ",", "but", "this", "latter", "argument", "defends", "itself", "against", "Ai+1.", "In", "such", "a", "case,", "the", "set", "of", "acceptable", "arguments", "will", "not", "change,", "and", "so", "the", "status", "of", "Ar", "will", "not", "change.", "Thus", "a", "move", "that", "is", "R2-relevant", "need", "not", "be", "R1-relevant.", "For", "2,", "consider", "that", "mi+1", "can", "satisfy", "R3", "simply", "by", "adding", "a", "node", "that", "is", "connected", "to", "vi,", "the", "last", "node", "to", "be", "added", "to", "AG.", "By", "Proposition", "4.1,", "it", "is", "connected", "to", "r", "and", "so", "is", "R2-relevant.", "To", "see", "that", "the", "converse", "does", "not", "hold,", "consider", "that", "an", "R2-relevant", "move", "can", "connect", "to", "any", "node", "in", "AG.", "The", "first", "part", "of", "3", "follows", "by", "a", "similar", "argument", "to", "that", "we", "just", "used", "-", "an", "R1-relevant", "move", "does", "not", "have", "to", "connect", "to", "vi,", "just", "to", "some", "v", "that", "is", "part", "of", "the", "graph", "-", "and", "the", "second", "part", "follows", "since", "a", "move", "that", "is", "R3-relevant", "may", "introduce", "an", "argument", "Ai+1", "that", "undercuts", "the", "argument", "Ai", "put", "forward", "by", "the", "previous", "move", "(and", "so", "vi+1", "is", "connected", "to", "vi),", "but", "finds", "that", "Ai", "defends", "itself", "against", "Ai+1,", "preventing", "a", "change", "of", "status", "at", "the", "root.", "What", "is", "most", "interesting", "is", "not", "so", "much", "the", "results", "but", "why", "they", "hold,", "since", "this", "reveals", "some", "aspects", "of", "the", "interplay", "between", "relevance", "and", "the", "structure", "of", "argument", "graphs.", "For", "example,", "to", "restate", "a", "case", "from", "the", "proof", "of", "Proposition", "4.2,", "a", "move", "that", "is", "R3-relevant", "by", "definition", "has", "to", "add", "a", "node", "to", "the", "argument", "graph", "that", "is", "connected", "to", "the", "last", "node", "that", "was", "added.", "Since", "a", "move", "that", "is", "R2-relevant", "can", "add", "a", "node", "that", "connects", "anywhere", "on", "an", "argument", "graph,", "any", "move", "that", "is", "R3-relevant", "will", "be", "R2-relevant,", "but", "the", "converse", "does", "not", "hold.", "It", "turns", "out", "that", "we", "can", "exploit", "the", "interplay", "between", "structure", "and", "relevance", "that", "Propositions", "4.1", "and", "4.2", "have", "started", "to", "illuminate", "to", "establish", "relationships", "between", "the", "protocols", "that", "govern", "dialogues", "and", "the", "argument", "graphs", "constructed", "during", "such", "dialogues.", "To", "do", "this", "we", "need", "to", "define", "protocols", "in", "such", "a", "way", "that", "they", "refer", "to", "the", "structure", "of", "the", "graph.", "We", "have:", "Definition", "4.3.", "A", "protocol", "is", "single-path", "if", "all", "dialogues", "that", "conform", "to", "it", "construct", "argument", "graphs", "that", "have", "only", "one", "branch.", "Proposition", "4.3.", "A", "basic", "protocol", "P", "is", "single-path", "if,", "for", "all", "i,", "the", "set", "of", "permitted", "moves", "Mi", "at", "move", "i", "are", "all", "R3relevant.", "The", "converse", "does", "not", "hold.", "Proof.", "R3-relevance", "requires", "that", "every", "node", "added", "to", "the", "argument", "graph", "be", "connected", "to", "the", "previous", "node.", "Starting", "from", "the", "first", "node", "this", "recursively", "constructs", "a", "tree", "with", "just", "one", "branch,", "and", "the", "relationship", "holds.", "The", "converse", "does", "not", "hold", "because", "even", "if", "one", "or", "more", "moves", "in", "the", "protocol", "are", "R1-", "or", "R2-relevant,", "it", "may", "be", "the", "case", "that,", "because", "of", "an", "agent\"s", "rhetorical", "choice", "or", "because", "of", "its", "knowledge,", "every", "argument", "that", "is", "chosen", "to", "be", "put", "forward", "will", "undercut", "the", "previous", "argument", "and", "so", "the", "argument", "graph", "is", "a", "one-branch", "tree.", "Looking", "for", "more", "complex", "kinds", "of", "protocol", "that", "construct", "more", "complex", "kinds", "of", "argument", "graph,", "it", "is", "an", "obvious", "move", "to", "turn", "to:", "Definition", "4.4.", "A", "basic", "protocol", "is", "multi-path", "if", "all", "dialogues", "that", "conform", "to", "it", "can", "construct", "argument", "graphs", "that", "are", "trees.", "But,", "on", "reflection,", "since", "any", "graph", "with", "only", "one", "branch", "is", "also", "a", "tree:", "Proposition", "4.4.", "Any", "single-path", "protocol", "is", "an", "instance", "of", "a", "multi-path", "protocol.", "and,", "furthermore:", "Proposition", "4.5.", "Any", "basic", "protocol", "P", "is", "multi-path.", "Proof.", "Immediate", "from", "Proposition", "4.1", "So", "the", "notion", "of", "a", "multi-path", "protocol", "does", "not", "have", "much", "traction.", "As", "a", "result", "we", "distinguish", "multi-path", "protocols", "that", "permit", "dialogues", "that", "can", "construct", "trees", "that", "have", "more", "than", "one", "branch", "as", "bushy", "protocols.", "We", "then", "have:", "Proposition", "4.6.", "A", "basic", "protocol", "P", "is", "bushy", "if,", "for", "some", "i,", "the", "set", "of", "permitted", "moves", "Mi", "at", "move", "i", "are", "all", "R1-", "or", "R2-relevant.", "Proof.", "From", "Proposition", "4.3", "we", "know", "that", "if", "all", "moves", "are", "R3-relevant", "then", "we\"ll", "get", "a", "tree", "with", "one", "branch,", "and", "from", "Proposition", "4.1", "we", "know", "that", "all", "basic", "protocols", "will", "build", "an", "argument", "graph", "that", "is", "a", "tree,", "so", "providing", "we", "exclude", "R3-relevant", "moves,", "we", "will", "get", "protocols", "that", "can", "build", "multi-branch", "trees.", "1010", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "Of", "course,", "since,", "by", "Proposition", "4.2,", "any", "move", "that", "is", "R3relevant", "is", "R2-relevant", "and", "can", "quite", "possibly", "be", "R1-relevant", "(all", "that", "Proposition", "4.2", "tells", "us", "is", "that", "there", "is", "no", "guarantee", "that", "it", "will", "be),", "all", "that", "Proposition", "4.6", "tells", "us", "is", "that", "dialogues", "that", "conform", "to", "bushy", "protocols", "may", "have", "more", "than", "one", "branch.", "All", "we", "can", "do", "is", "to", "identify", "a", "bound", "on", "the", "number", "of", "branches:", "Proposition", "4.7.", "Consider", "a", "basic", "dialogue", "D", "that", "includes", "m", "moves", "that", "are", "not", "R3-relevant,", "and", "has", "a", "corresponding", "argumentation", "graph", "AG.", "The", "number", "of", "branches", "in", "AG", "is", "less", "than", "or", "equal", "to", "m", "+", "1.", "Proof.", "Since", "it", "must", "connect", "a", "node", "to", "the", "last", "node", "added", "to", "AG,", "an", "R3-relevant", "move", "can", "only", "extend", "an", "existing", "branch.", "Since", "they", "do", "not", "have", "the", "same", "restriction,", "R1", "and", "R2-relevant", "moves", "may", "create", "a", "new", "branch", "by", "connecting", "to", "a", "node", "that", "is", "not", "the", "last", "node", "added.", "Every", "such", "move", "could", "create", "a", "new", "branch,", "and", "if", "they", "do,", "we", "will", "have", "m", "branches.", "If", "there", "were", "R3-relevant", "moves", "before", "any", "of", "these", "new-branch-creating", "moves,", "then", "these", "m", "branches", "are", "in", "addition", "to", "the", "initial", "branch", "created", "by", "the", "R3-relevant", "moves,", "and", "we", "have", "a", "maximum", "of", "m", "+", "1", "possible", "branches.", "We", "distinguish", "bushy", "protocols", "from", "multi-path", "protocols,", "and", "hence", "R1-", "and", "R2-relevance", "from", "R3-relevance,", "because", "of", "the", "kinds", "of", "dialogue", "that", "R3-relevance", "enforces.", "In", "a", "dialogue", "in", "which", "all", "moves", "must", "be", "R3-relevant,", "the", "argumentation", "graph", "has", "a", "single", "branch", "-", "the", "dialogue", "consists", "of", "a", "sequence", "of", "arguments", "each", "of", "which", "undercuts", "the", "previous", "one", "and", "the", "last", "move", "to", "be", "made", "is", "the", "one", "that", "settles", "the", "dialogue.", "This,", "as", "we", "will", "see", "next,", "means", "that", "such", "a", "dialogue", "only", "allows", "a", "subset", "of", "all", "the", "moves", "that", "would", "otherwise", "be", "possible.", "5.", "COMPLETENESS", "The", "above", "discussion", "of", "the", "difference", "between", "dialogues", "carried", "out", "under", "single-path", "and", "bushy", "protocols", "brings", "us", "to", "the", "consideration", "of", "what", "[18]", "called", "predeterminism,", "but", "we", "now", "prefer", "to", "describe", "using", "the", "term", "completeness.", "The", "idea", "of", "predeterminism,", "as", "described", "in", "[18],", "captures", "the", "notion", "that,", "under", "some", "circumstances,", "the", "result", "of", "a", "dialogue", "can", "be", "established", "without", "actually", "having", "the", "dialogue", "-", "the", "agents", "have", "sufficiently", "little", "room", "for", "rhetorical", "manoeuver", "that", "were", "one", "able", "to", "see", "the", "contents", "of", "all", "the", "Σi", "of", "all", "the", "αi", "∈", "A,", "one", "would", "be", "able", "to", "identify", "the", "outcome", "of", "any", "dialogue", "on", "a", "given", "subject4", ".", "We", "develop", "this", "idea", "by", "considering", "how", "the", "argument", "graphs", "constructed", "by", "dialogues", "under", "different", "protocols", "compare", "to", "benchmark", "complete", "dialogues.", "We", "start", "by", "developing", "ideas", "of", "what", "complete", "might", "mean.", "One", "reasonable", "definition", "is", "that:", "Definition", "5.1.", "A", "basic", "dialogue", "D", "between", "the", "set", "of", "agents", "A", "with", "a", "corresponding", "argumentation", "graph", "AG", "is", "topic-complete", "if", "no", "agent", "can", "construct", "an", "argument", "A", "that", "undercuts", "any", "argument", "A", "represented", "by", "a", "node", "in", "AG.", "The", "argumentation", "graph", "constructed", "by", "a", "topic-complete", "dialogue", "is", "called", "a", "topic-complete", "argumentation", "graph", "and", "is", "denoted", "AG(D)T", ".", "4", "Assuming", "that", "the", "Σi", "do", "not", "change", "during", "the", "dialogue,", "which", "is", "the", "usual", "assumption", "in", "this", "kind", "of", "dialogue.", "A", "dialogue", "is", "topic-complete", "when", "no", "agent", "can", "add", "anything", "that", "is", "directly", "connected", "to", "the", "subject", "of", "the", "dialogue.", "Some", "protocols", "will", "prevent", "agents", "from", "making", "moves", "even", "though", "the", "dialogue", "is", "not", "topic-complete.", "To", "distinguish", "such", "cases", "we", "have:", "Definition", "5.2.", "A", "basic", "dialogue", "D", "between", "the", "set", "of", "agents", "A", "with", "a", "corresponding", "argumentation", "graph", "AG", "is", "protocol-complete", "under", "a", "protocol", "P", "if", "no", "agent", "can", "make", "a", "move", "that", "adds", "a", "node", "to", "the", "argumentation", "graph", "that", "is", "permitted", "by", "P.", "The", "argumentation", "graph", "constructed", "by", "a", "protocol-complete", "dialogue", "is", "called", "a", "protocol-complete", "argumentation", "graph", "and", "is", "denoted", "AG(D)P", ".", "Clearly:", "Proposition", "5.1.", "Any", "dialogue", "D", "under", "a", "basic", "protocol", "P", "is", "protocol-complete", "if", "it", "is", "topic-complete.", "The", "converse", "does", "not", "hold", "in", "general.", "Proof.", "If", "D", "is", "topic-complete,", "no", "agent", "can", "make", "a", "move", "that", "will", "extend", "the", "argumentation", "graph.", "This", "means", "that", "no", "agent", "can", "make", "a", "move", "that", "is", "permitted", "by", "a", "basic", "protocol,", "and", "so", "D", "is", "also", "protocol", "complete.", "The", "converse", "does", "not", "hold", "since", "some", "basic", "dialogues", "(under", "a", "protocol", "that", "only", "permits", "R3-relevant", "moves,", "for", "example)", "will", "not", "permit", "certain", "moves", "(like", "the", "addition", "of", "a", "node", "that", "connects", "to", "the", "root", "of", "the", "argumentation", "graph", "after", "more", "than", "two", "moves)", "that", "would", "be", "allowed", "in", "a", "topiccomplete", "dialogue.", "Corollary", "5.1.", "For", "a", "basic", "dialogue", "D,", "AG(D)P", "is", "a", "sub-graph", "of", "AG(D)T", ".", "Obviously,", "from", "the", "definition", "of", "a", "sub-graph,", "the", "converse", "of", "Corollary", "5.1", "does", "not", "hold", "in", "general.", "The", "important", "distinction", "between", "topic-", "and", "protocolcompleteness", "is", "that", "the", "former", "is", "determined", "purely", "by", "the", "state", "of", "the", "dialogue", "-", "as", "captured", "by", "the", "argumentation", "graph", "-", "and", "is", "thus", "independent", "of", "the", "protocol,", "while", "the", "latter", "is", "determined", "entirely", "by", "the", "protocol.", "Any", "time", "that", "a", "dialogue", "ends", "in", "a", "state", "of", "protocol-completeness", "rather", "than", "topic", "completeness,", "it", "is", "ending", "when", "agents", "still", "have", "things", "to", "say", "but", "can\"t", "because", "the", "protocol", "won\"t", "allow", "them", "to.", "With", "these", "definitions", "of", "completeness,", "our", "task", "is", "to", "relate", "topic-completeness", "-", "the", "property", "that", "ensures", "that", "agents", "can", "say", "everything", "that", "they", "have", "to", "say", "in", "a", "dialogue", "that", "is,", "in", "some", "sense,", "important", "-", "to", "the", "notions", "of", "relevance", "we", "have", "developed", "-", "which", "determine", "what", "agents", "are", "allowed", "to", "say.", "When", "we", "need", "very", "specific", "conditions", "to", "make", "protocol-complete", "dialogues", "topic-complete,", "it", "means", "that", "agents", "have", "lots", "of", "room", "for", "rhetorical", "maneouver", "when", "those", "conditions", "are", "not", "in", "force.", "That", "is", "there", "are", "many", "ways", "they", "can", "bring", "dialogues", "to", "a", "close", "before", "everything", "that", "can", "be", "said", "has", "been", "said.", "Where", "few", "conditions", "are", "required,", "or", "conditions", "are", "absent,", "then", "dialogues", "between", "agents", "with", "the", "same", "knowledge", "will", "always", "play", "out", "the", "same", "way,", "and", "rhetoric", "has", "no", "place.", "We", "have:", "Proposition", "5.2.", "A", "protocol-complete", "basic", "dialogue", "D", "under", "a", "protocol", "which", "only", "allows", "R3-relevant", "moves", "will", "be", "topic-complete", "only", "when", "AG(D)T", "has", "a", "single", "branch", "in", "which", "the", "nodes", "are", "labelled", "in", "increasing", "order", "from", "the", "root.", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "1011", "Proof.", "Given", "what", "we", "know", "about", "R3-relevance,", "the", "condition", "on", "AG(D)P", "having", "a", "single", "branch", "is", "obvious.", "This", "is", "not", "a", "sufficient", "condition", "on", "its", "own", "because", "certain", "protocols", "may", "prevent", "-", "through", "additional", "restrictions,", "like", "strict", "turn-taking", "in", "a", "multi-party", "dialogue", "-", "all", "the", "nodes", "in", "AG(D)T", ",", "which", "is", "not", "subject", "to", "such", "restrictions,", "being", "added", "to", "the", "graph.", "Only", "when", "AG(D)T", "includes", "the", "nodes", "in", "the", "exact", "order", "that", "the", "corresponding", "arguments", "are", "put", "forward", "is", "it", "necessary", "that", "a", "topic-complete", "argumentation", "graph", "be", "constructed.", "Given", "Proposition", "5.1,", "these", "are", "the", "conditions", "under", "which", "dialogues", "conducted", "under", "the", "notion", "of", "R3-relevance", "will", "always", "be", "predetermined,", "and", "given", "how", "restrictive", "the", "conditions", "are,", "such", "dialogues", "seem", "to", "have", "plenty", "of", "room", "for", "rhetoric", "to", "play", "a", "part.", "To", "find", "similar", "conditions", "for", "dialogues", "composed", "of", "R1and", "R2-relevant", "moves,", "we", "first", "need", "to", "distinguish", "between", "them.", "We", "can", "do", "this", "in", "terms", "of", "the", "structure", "of", "the", "argumentation", "graph:", "Proposition", "5.3.", "Consider", "a", "basic", "dialogue", "D,", "with", "argumentation", "graph", "AG", "which", "has", "root", "r", "denoting", "an", "argument", "A.", "If", "argument", "A", ",", "denoted", "by", "node", "v", "is", "an", "an", "R2relevant", "move", "m,", "m", "is", "not", "R1-relevant", "if", "and", "only", "if:", "1.", "there", "are", "two", "nodes", "v", "and", "v", "on", "the", "path", "between", "v", "and", "r,", "and", "the", "argument", "denoted", "by", "v", "defends", "itself", "against", "the", "argument", "denoted", "by", "v", ";", "or", "2.", "there", "is", "an", "argument", "A", ",", "denoted", "by", "node", "v", ",", "that", "affects", "the", "status", "of", "A,", "and", "the", "path", "from", "v", "to", "r", "has", "one", "or", "more", "nodes", "in", "common", "with", "the", "path", "from", "v", "to", "r.", "Proof.", "For", "the", "first", "condition,", "consider", "that", "since", "AG", "is", "a", "tree,", "v", "is", "connected", "to", "r.", "Thus", "there", "is", "a", "series", "of", "undercut", "relations", "between", "A", "and", "A", ",", "and", "this", "corrresponds", "to", "a", "path", "through", "AG.", "If", "this", "path", "is", "the", "only", "branch", "in", "the", "tree,", "then", "A", "will", "affect", "the", "status", "of", "A", "unless", "the", "chain", "of", "affect", "is", "broken", "by", "an", "undercut", "that", "can\"t", "change", "the", "status", "of", "the", "undercut", "argument", "because", "the", "latter", "defends", "itself.", "For", "the", "second", "condition,", "as", "for", "the", "first,", "the", "only", "way", "that", "A", "cannot", "affect", "the", "status", "of", "A", "is", "if", "something", "is", "blocking", "its", "influence.", "If", "this", "is", "not", "due", "to", "defending", "against,", "it", "must", "be", "because", "there", "is", "some", "node", "u", "on", "the", "path", "that", "represents", "an", "argument", "whose", "status", "is", "fixed", "somehow,", "and", "that", "must", "mean", "that", "there", "is", "another", "chain", "of", "undercut", "relations,", "another", "branch", "of", "the", "tree,", "that", "is", "incident", "at", "u.", "Since", "this", "second", "branch", "denotes", "another", "chain", "of", "arguments,", "and", "these", "affect", "the", "status", "of", "the", "argument", "denoted", "by", "u,", "they", "must", "also", "affect", "the", "status", "of", "A.", "Any", "of", "these", "are", "the", "A", "in", "the", "condition.", "So", "an", "R2-relevant", "move", "m", "is", "not", "R1-relevant", "if", "either", "its", "effect", "is", "blocked", "because", "an", "argument", "upstream", "is", "not", "strong", "enough,", "or", "because", "there", "is", "another", "line", "of", "argument", "that", "is", "currently", "determining", "the", "status", "of", "the", "argument", "at", "the", "root.", "This,", "in", "turn,", "means", "that", "if", "the", "effect", "is", "not", "due", "to", "defending", "against,", "then", "there", "is", "an", "alternative", "move", "that", "is", "R1-relevant", "-", "a", "move", "that", "undercuts", "A", "in", "the", "second", "condition", "above5", ".", "We", "can", "now", "show", "5", "Though", "whether", "the", "agent", "in", "question", "can", "make", "such", "a", "move", "is", "another", "question.", "Proposition", "5.4.", "A", "protocol-complete", "basic", "dialogue", "D", "will", "always", "be", "topic-complete", "under", "a", "protocol", "which", "only", "includes", "R2-relevant", "moves", "and", "allows", "every", "R2-relevant", "move", "to", "be", "made.", "The", "restriction", "on", "R2-relevant", "rules", "is", "exactly", "that", "for", "topiccompleteness,", "so", "a", "dialogue", "that", "has", "only", "R2-relevant", "moves", "will", "continue", "until", "every", "argument", "that", "any", "agent", "can", "make", "has", "been", "put", "forward.", "Given", "this,", "and", "what", "we", "revealed", "about", "R1-relevance", "in", "Proposition", "5.3,", "we", "can", "see", "that:", "Proposition", "5.5.", "A", "protocol-complete", "basic", "dialogue", "D", "under", "a", "protocol", "which", "only", "includes", "R1-relevant", "moves", "will", "be", "topic-complete", "if", "AG(D)T", ":", "1.", "includes", "no", "path", "with", "adjacent", "nodes", "v,", "denoting", "A,", "and", "v", ",", "denoting", "A", ",", "such", "that", "A", "undercuts", "A", "and", "A", "is", "stronger", "that", "A;", "and", "2.", "is", "such", "that", "the", "nodes", "in", "every", "branch", "have", "consecutive", "indices", "and", "no", "node", "with", "degree", "greater", "than", "two", "is", "an", "odd", "number", "of", "arcs", "from", "a", "leaf", "node.", "Proof.", "The", "first", "condition", "rules", "out", "the", "first", "condition", "in", "Proposition", "5.3,", "and", "the", "second", "deals", "with", "the", "situation", "that", "leads", "to", "the", "second", "condition", "in", "Proposition", "5.3.", "The", "second", "condition", "ensures", "that", "each", "branch", "is", "constructed", "in", "full", "before", "any", "new", "branch", "is", "added,", "and", "when", "a", "new", "branch", "is", "added,", "the", "argument", "that", "is", "undercut", "as", "part", "of", "the", "addition", "will", "be", "acceptable,", "and", "so", "the", "addition", "will", "change", "the", "status", "of", "the", "argument", "denoted", "by", "that", "node,", "and", "hence", "the", "root.", "With", "these", "conditions,", "every", "move", "required", "to", "construct", "AG(D)T", "will", "be", "permitted", "and", "so", "the", "dialogue", "will", "be", "topic-complete", "when", "every", "move", "has", "been", "completed.", "The", "second", "part", "of", "this", "result", "only", "identifies", "one", "possible", "way", "to", "ensure", "that", "the", "second", "condition", "in", "Proposition", "5.3", "is", "met,", "so", "the", "converse", "of", "this", "result", "does", "not", "hold.", "However,", "what", "we", "have", "is", "sufficient", "to", "answer", "the", "question", "about", "predetermination", "that", "we", "started", "with.", "For", "dialogues", "to", "be", "predetermined,", "every", "move", "that", "is", "R2-relevant", "must", "be", "made.", "In", "such", "cases", "every", "dialogue", "is", "topic", "complete.", "If", "we", "do", "not", "require", "that", "all", "R2-relevant", "moves", "are", "made,", "then", "there", "is", "some", "room", "for", "rhetoric", "-", "the", "way", "in", "which", "alternative", "lines", "of", "argument", "are", "presented", "becomes", "an", "issue.", "If", "moves", "are", "forced", "to", "be", "R3-relevant,", "then", "there", "is", "considerable", "room", "for", "rhetorical", "play.", "6.", "SUMMARY", "This", "paper", "has", "studied", "the", "different", "ideas", "of", "relevance", "in", "argumentation-based", "dialogue,", "identifying", "the", "relationship", "between", "these", "ideas,", "and", "showing", "how", "they", "can", "impact", "the", "extent", "to", "which", "the", "way", "that", "agents", "choose", "moves", "in", "a", "dialogue", "-", "what", "some", "authors", "have", "called", "the", "strategy", "and", "tactics", "of", "a", "dialogue.", "This", "extends", "existing", "work", "on", "relvance,", "such", "as", "[3,", "15]", "by", "showing", "how", "different", "notions", "of", "relevance", "can", "have", "an", "effect", "on", "the", "outcome", "of", "a", "dialogue,", "in", "particular", "when", "they", "render", "the", "outcome", "predetermined.", "This", "connection", "extends", "the", "work", "of", "[18]", "which", "considered", "dialogue", "outcome,", "but", "stopped", "short", "of", "identifying", "the", "conditions", "under", "which", "it", "is", "predetermined.", "There", "are", "two", "ways", "we", "are", "currently", "trying", "to", "extend", "this", "work,", "both", "of", "which", "will", "generalise", "the", "results", "and", "extend", "its", "applicability.", "First,", "we", "want", "to", "relax", "the", "restrictions", "that", "1012", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "we", "have", "imposed,", "the", "exclusion", "of", "moves", "that", "attack", "several", "arguments", "(without", "which", "the", "argument", "graph", "can", "be", "mulitply-connected)", "and", "the", "exclusion", "of", "pre-empted", "moves,", "without", "which", "the", "argument", "graph", "can", "have", "cycles.", "Second,", "we", "want", "to", "extend", "the", "ideas", "of", "relevance", "to", "cope", "with", "moves", "that", "do", "not", "only", "add", "undercutting", "arguments,", "but", "also", "supporting", "arguments,", "thus", "taking", "account", "of", "bipolar", "argumentation", "frameworks", "[5].", "Acknowledgments", "The", "authors", "are", "grateful", "for", "financial", "support", "received", "from", "the", "EC,", "through", "project", "IST-FP6-002307,", "and", "from", "the", "NSF", "under", "grants", "REC-02-19347", "and", "NSF", "IIS-0329037.", "They", "are", "also", "grateful", "to", "Peter", "Stone", "for", "a", "question,", "now", "several", "years", "old,", "which", "this", "paper", "has", "finally", "answered.", "7.", "REFERENCES", "[1]", "L.", "Amgoud", "and", "C.", "Cayrol.", "On", "the", "acceptability", "of", "arguments", "in", "preference-based", "argumentation", "framework.", "In", "Proceedings", "of", "the", "14th", "Conference", "on", "Uncertainty", "in", "Artificial", "Intelligence,", "pages", "1-7,", "1998.", "[2]", "L.", "Amgoud,", "S.", "Parsons,", "and", "N.", "Maudet.", "Arguments,", "dialogue,", "and", "negotiation.", "In", "W.", "Horn,", "editor,", "Proceedings", "of", "the", "Fourteenth", "European", "Conference", "on", "Artificial", "Intelligence,", "pages", "338-342,", "Berlin,", "Germany,", "2000.", "IOS", "Press.", "[3]", "J.", "Bentahar,", "M.", "Mbarki,", "and", "B.", "Moulin.", "Strategic", "and", "tactic", "reasoning", "for", "communicating", "agents.", "In", "N.", "Maudet,", "I.", "Rahwan,", "and", "S.", "Parsons,", "editors,", "Proceedings", "of", "the", "Third", "Workshop", "on", "Argumentation", "in", "Muliagent", "Systems,", "Hakodate,", "Japan,", "2006.", "[4]", "P.", "Besnard", "and", "A.", "Hunter.", "A", "logic-based", "theory", "of", "deductive", "arguments.", "Artificial", "Intelligence,", "128:203-235,", "2001.", "[5]", "C.", "Cayrol,", "C.", "Devred,", "and", "M.-C.", "Lagasquie-Schiex.", "Handling", "controversial", "arguments", "in", "bipolar", "argumentation", "frameworks.", "In", "P.", "E.", "Dunne", "and", "T.", "J.", "M.", "Bench-Capon,", "editors,", "Computational", "Models", "of", "Argument:", "Proceedings", "of", "COMMA", "2006,", "pages", "261-272.", "IOS", "Press,", "2006.", "[6]", "B.", "Chaib-Draa", "and", "F.", "Dignum.", "Trends", "in", "agent", "communication", "language.", "Computational", "Intelligence,", "18(2):89-101,", "2002.", "[7]", "F.", "Dignum,", "B.", "Dunin-K¸eplicz,", "and", "R.", "Verbrugge.", "Agent", "theory", "for", "team", "formation", "by", "dialogue.", "In", "C.", "Castelfranchi", "and", "Y.", "Lesp´erance,", "editors,", "Seventh", "Workshop", "on", "Agent", "Theories,", "Architectures,", "and", "Languages,", "pages", "141-156,", "Boston,", "USA,", "2000.", "[8]", "P.", "M.", "Dung.", "On", "the", "acceptability", "of", "arguments", "and", "its", "fundamental", "role", "in", "nonmonotonic", "reasoning,", "logic", "programming", "and", "n-person", "games.", "Artificial", "Intelligence,", "77:321-357,", "1995.", "[9]", "P.", "M.", "Dung,", "R.", "A.", "Kowalski,", "and", "F.", "Toni.", "Dialectic", "proof", "procedures", "for", "assumption-based,", "admissable", "argumentation.", "Artificial", "Intelligence,", "170(2):114-159,", "2006.", "[10]", "R.", "A.", "Flores", "and", "R.", "C.", "Kremer.", "To", "commit", "or", "not", "to", "commit.", "Computational", "Intelligence,", "18(2):120-173,", "2002.", "[11]", "D.", "M.", "Gabbay", "and", "J.", "Woods.", "More", "on", "non-cooperation", "in", "Dialogue", "Logic.", "Logic", "Journal", "of", "the", "IGPL,", "9(2):321-339,", "2001.", "[12]", "D.", "M.", "Gabbay", "and", "J.", "Woods.", "Non-cooperation", "in", "Dialogue", "Logic.", "Synthese,", "127(1-2):161-186,", "2001.", "[13]", "C.", "L.", "Hamblin.", "Mathematical", "models", "of", "dialogue.", "Theoria,", "37:130-155,", "1971.", "[14]", "S.", "Kraus,", "K.", "Sycara,", "and", "A.", "Evenchik.", "Reaching", "agreements", "through", "argumentation:", "a", "logical", "model", "and", "implementation.", "Artificial", "Intelligence,", "104(1-2):1-69,", "1998.", "[15]", "N.", "Oren,", "T.", "J.", "Norman,", "and", "A.", "Preece.", "Loose", "lips", "sink", "ships:", "A", "heuristic", "for", "argumentation.", "In", "N.", "Maudet,", "I.", "Rahwan,", "and", "S.", "Parsons,", "editors,", "Proceedings", "of", "the", "Third", "Workshop", "on", "Argumentation", "in", "Muliagent", "Systems,", "Hakodate,", "Japan,", "2006.", "[16]", "S.", "Parsons", "and", "N.", "R.", "Jennings.", "Negotiation", "through", "argumentation", "-", "a", "preliminary", "report.", "In", "Proceedings", "of", "Second", "International", "Conference", "on", "Multi-Agent", "Systems,", "pages", "267-274,", "1996.", "[17]", "S.", "Parsons,", "M.", "Wooldridge,", "and", "L.", "Amgoud.", "An", "analysis", "of", "formal", "inter-agent", "dialogues.", "In", "1st", "International", "Conference", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems.", "ACM", "Press,", "2002.", "[18]", "S.", "Parsons,", "M.", "Wooldridge,", "and", "L.", "Amgoud.", "On", "the", "outcomes", "of", "formal", "inter-agent", "dialogues.", "In", "2nd", "International", "Conference", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems.", "ACM", "Press,", "2003.", "[19]", "H.", "Prakken.", "On", "dialogue", "systems", "with", "speech", "acts,", "arguments,", "and", "counterarguments.", "In", "Proceedings", "of", "the", "Seventh", "European", "Workshop", "on", "Logic", "in", "Artificial", "Intelligence,", "Berlin,", "Germany,", "2000.", "Springer", "Verlag.", "[20]", "H.", "Prakken.", "Relating", "protocols", "for", "dynamic", "dispute", "with", "logics", "for", "defeasible", "argumentation.", "Synthese,", "127:187-219,", "2001.", "[21]", "H.", "Prakken", "and", "G.", "Sartor.", "Modelling", "reasoning", "with", "precedents", "in", "a", "formal", "dialogue", "game.", "Artificial", "Intelligence", "and", "Law,", "6:231-287,", "1998.", "[22]", "I.", "Rahwan,", "P.", "McBurney,", "and", "E.", "Sonenberg.", "Towards", "a", "theory", "of", "negotiation", "strategy.", "In", "I.", "Rahwan,", "P.", "Moraitis,", "and", "C.", "Reed,", "editors,", "Proceedings", "of", "the", "1st", "International", "Workshop", "on", "Argumentation", "in", "Multiagent", "Systems,", "New", "York,", "NY,", "2004.", "[23]", "C.", "Reed.", "Dialogue", "frames", "in", "agent", "communications.", "In", "Y.", "Demazeau,", "editor,", "Proceedings", "of", "the", "Third", "International", "Conference", "on", "Multi-Agent", "Systems,", "pages", "246-253.", "IEEE", "Press,", "1998.", "[24]", "M.", "Rovatsos,", "I.", "Rahwan,", "F.", "Fisher,", "and", "G.", "Weiss.", "Adaptive", "strategies", "for", "practical", "argument-based", "negotiation.", "In", "I.", "Rahwan,", "P.", "Moraitis,", "and", "C.", "Reed,", "editors,", "Proceedings", "of", "the", "1st", "International", "Workshop", "on", "Argumentation", "in", "Multiagent", "Systems,", "New", "York,", "NY,", "2004.", "[25]", "M.", "Schroeder,", "D.", "A.", "Plewe,", "and", "A.", "Raab.", "Ultima", "ratio:", "should", "Hamlet", "kill", "Claudius.", "In", "Proceedings", "of", "the", "2nd", "International", "Conference", "on", "Autonomous", "Agents,", "pages", "467-468,", "1998.", "[26]", "K.", "Sycara.", "Argumentation:", "Planning", "other", "agents\"", "plans.", "In", "Proceedings", "of", "the", "Eleventh", "Joint", "Conference", "on", "Artificial", "Intelligence,", "pages", "517-523,", "1989.", "[27]", "D.", "N.", "Walton", "and", "E.", "C.", "W.", "Krabbe.", "Commitment", "in", "Dialogue:", "Basic", "Concepts", "of", "Interpersonal", "Reasoning.", "State", "University", "of", "New", "York", "Press,", "Albany,", "NY,", "USA,", "1995.", "The", "Sixth", "Intl.", "Joint", "Conf.", "on", "Autonomous", "Agents", "and", "Multi-Agent", "Systems", "(AAMAS", "07)", "1013" ]	[ "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
I-37	["A","Framework","for","Agent-Based","Distributed","Machine","Learning","and","Data","Mining","Jan",(...TRUNCATED)	["O","O","O","O","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
J-66	["Expressive","Negotiation","over","Donations","to","Charities∗","Vincent","Conitzer","Carnegie","(...TRUNCATED)	["B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
I-70	["A","Multi-Agent","System","for","Building","Dynamic","Ontologies","Kévin","Ottens","∗","IRIT,",(...TRUNCATED)	["O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
H-43	["Combining","Content","and","Link","for","Classification","using","Matrix","Factorization","Shenghu(...TRUNCATED)	["B","I","I","I","O","B","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
H-63	["Location","based","Indexing","Scheme","for","DAYS","Debopam","Acharya","and","Vijay","Kumar","1","(...TRUNCATED)	["O","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
C-44	["MSP:","Multi-Sequence","Positioning","of","Wireless","Sensor","Nodes∗","Ziguo","Zhong","Computer(...TRUNCATED)	["O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
J-55	["From","Optimal","Limited","To","Unlimited","Supply","Auctions","Jason","D.","Hartline","Microsoft"(...TRUNCATED)	["O","O","O","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
H-37	["Relaxed","Online","SVMs","for","Spam","Filtering","D.","Sculley","Tufts","University","Department"(...TRUNCATED)	["O","O","O","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)

End of preview. Expand in Dataset Viewer.

YAML Metadata Warning: empty or missing yaml metadata in repo card (https://huggingface.co./docs/hub/datasets-cards)

A dataset for benchmarking keyphrase extraction and generation techniques from long document english scientific articles. For more details about the dataset please refer the original paper - https://dl.acm.org/doi/10.5555/1859664.1859668

Original source of the data - https://github.com/boudinfl/semeval-2010-pre

Dataset Summary

The Semeval-2010 dataset was originally proposed by Su Nam Kim et al in the paper titled - SemEval-2010 Task 5: Automatic Keyphrase Extraction from Scientific Articles in the year 2010. The dataset consists of a set of 284 English scientific papers from the ACM Digital Library (conference and work-shop papers). The selected articles belong to the following four 1998 ACM classifications: C2.4 (Distributed Systems), H3.3 (Information Search and Retrieval), I2.11 (Distributed Artificial Intelligence – Multiagent Systems) and J4 (Socialand Behavioral Sciences – Economics). Each paper has two sets of keyphrases annotated by readers and author. The original dataset was divided into trail, training and test splits, evenly distributed across four domains. The trial, training and test splits had 40, 144 and 100 articles respectively, and the trial split was a subset of training split. We provide test and train splits with 100 and 144 articles respectively.

The dataset shared over here categorizes the keyphrases into extractive and abstractive. Extractive keyphrases are those that could be found in the input text and the abstractive keyphrases are those that are not present in the input text. In order to get all the meta-data about the documents and keyphrases please refer to the original source from which the dataset was taken from. The main motivation behind making this dataset available in the form as presented over here is to make it easy for the researchers to programmatically download it and evaluate their models for the tasks of keyphrase extraction and generation. As keyphrase extraction by treating it as a sequence tagging task and using contextual language models has become popular - Keyphrase extraction from scholarly articles as sequence labeling using contextualized embeddings, we have also made the token tags available in the BIO tagging format.

Dataset Structure

Data Fields

id: unique identifier of the document.
document: Whitespace separated list of words in the document.
doc_bio_tags: BIO tags for each word in the document. B stands for the beginning of a keyphrase and I stands for inside the keyphrase. O stands for outside the keyphrase and represents the word that isn't a part of the keyphrase at all.
extractive_keyphrases: List of all the present keyphrases.
abstractive_keyphrase: List of all the absent keyphrases.

Data Splits

Split	#datapoints
Test	100
Train	144

Train

Percentage of keyphrases that are named entities: 63.01% (named entities detected using scispacy - en-core-sci-lg model)
Percentage of keyphrases that are noun phrases: 82.50% (noun phrases detected using spacy en-core-web-lg after removing determiners)

Test

Percentage of keyphrases that are named entities: 62.06% (named entities detected using scispacy - en-core-sci-lg model)
Percentage of keyphrases that are noun phrases: 78.36% (noun phrases detected using spacy after removing determiners)

Usage

Full Dataset

from datasets import load_dataset

# get entire dataset
dataset = load_dataset("midas/semeval2010", "raw")

# sample from the train split
print("Sample from train dataset split")
test_sample = dataset["train"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

# sample from the test split
print("Sample from test dataset split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

Output

Sample from train dataset split
Fields in the sample:  ['id', 'document', 'doc_bio_tags', 'extractive_keyphrases', 'abstractive_keyphrases', 'other_metadata']
Tokenized Document:  ['HITS', 'on', 'the', 'Web:', 'How', 'does', 'it', 'Compare?', 'Marc', 'Najork', 'Microsoft', 'Research', '1065', 'La', 'Avenida', 'Mountain', 'View,', 'CA,', 'USA', '[email protected]', 'Hugo', 'Zaragoza', '∗', 'Yahoo!', 'Research', 'Barcelona', 'Ocata', '1', 'Barcelona', '08003,', 'Spain', '[email protected]', 'Michael', 'Taylor', 'Microsoft', 'Research', '7', 'J', 'J', 'Thompson', 'Ave', 'Cambridge', 'CB3', '0FB,', 'UK', '[email protected]', 'ABSTRACT', 'This', 'paper', 'describes', 'a', 'large-scale', 'evaluation', 'of', 'the', 'effectiveness', 'of', 'HITS', 'in', 'comparison', 'with', 'other', 'link-based', 'ranking', 'algorithms,', 'when', 'used', 'in', 'combination', 'with', 'a', 'state-ofthe-art', 'text', 'retrieval', 'algorithm', 'exploiting', 'anchor', 'text.', 'We', 'quantified', 'their', 'effectiveness', 'using', 'three', 'common', 'performance', 'measures:', 'the', 'mean', 'reciprocal', 'rank,', 'the', 'mean', 'average', 'precision,', 'and', 'the', 'normalized', 'discounted', 'cumulative', 'gain', 'measurements.', 'The', 'evaluation', 'is', 'based', 'on', 'two', 'large', 'data', 'sets:', 'a', 'breadth-first', 'search', 'crawl', 'of', '463', 'million', 'web', 'pages', 'containing', '17.6', 'billion', 'hyperlinks', 'and', 'referencing', '2.9', 'billion', 'distinct', 'URLs;', 'and', 'a', 'set', 'of', '28,043', 'queries', 'sampled', 'from', 'a', 'query', 'log,', 'each', 'query', 'having', 'on', 'average', '2,383', 'results,', 'about', '17', 'of', 'which', 'were', 'labeled', 'by', 'judges.', 'We', 'found', 'that', 'HITS', 'outperforms', 'PageRank,', 'but', 'is', 'about', 'as', 'effective', 'as', 'web-page', 'in-degree.', 'The', 'same', 'holds', 'true', 'when', 'any', 'of', 'the', 'link-based', 'features', 'are', 'combined', 'with', 'the', 'text', 'retrieval', 'algorithm.', 'Finally,', 'we', 'studied', 'the', 'relationship', 'between', 'query', 'specificity', 'and', 'the', 'effectiveness', 'of', 'selected', 'features,', 'and', 'found', 'that', 'link-based', 'features', 'perform', 'better', 'for', 'general', 'queries,', 'whereas', 'BM25F', 'performs', 'better', 'for', 'specific', 'queries.', 'Categories', 'and', 'Subject', 'Descriptors', 'H.3.3', '[Information', 'Search', 'and', 'Retrieval]:', 'Information', 'Storage', 'and', 'Retrieval-search', 'process,', 'selection', 'process', 'General', 'Terms', 'Algorithms,', 'Measurement,', 'Experimentation', '1.', 'INTRODUCTION', 'Link', 'graph', 'features', 'such', 'as', 'in-degree', 'and', 'PageRank', 'have', 'been', 'shown', 'to', 'significantly', 'improve', 'the', 'performance', 'of', 'text', 'retrieval', 'algorithms', 'on', 'the', 'web.', 'The', 'HITS', 'algorithm', 'is', 'also', 'believed', 'to', 'be', 'of', 'interest', 'for', 'web', 'search;', 'to', 'some', 'degree,', 'one', 'may', 'expect', 'HITS', 'to', 'be', 'more', 'informative', 'that', 'other', 'link-based', 'features', 'because', 'it', 'is', 'query-dependent:', 'it', 'tries', 'to', 'measure', 'the', 'interest', 'of', 'pages', 'with', 'respect', 'to', 'a', 'given', 'query.', 'However,', 'it', 'remains', 'unclear', 'today', 'whether', 'there', 'are', 'practical', 'benefits', 'of', 'HITS', 'over', 'other', 'link', 'graph', 'measures.', 'This', 'is', 'even', 'more', 'true', 'when', 'we', 'consider', 'that', 'modern', 'retrieval', 'algorithms', 'used', 'on', 'the', 'web', 'use', 'a', 'document', 'representation', 'which', 'incorporates', 'the', 'document"s', 'anchor', 'text,', 'i.e.', 'the', 'text', 'of', 'incoming', 'links.', 'This,', 'at', 'least', 'to', 'some', 'degree,', 'takes', 'the', 'link', 'graph', 'into', 'account,', 'in', 'a', 'query-dependent', 'manner.', 'Comparing', 'HITS', 'to', 'PageRank', 'or', 'in-degree', 'empirically', 'is', 'no', 'easy', 'task.', 'There', 'are', 'two', 'main', 'difficulties:', 'scale', 'and', 'relevance.', 'Scale', 'is', 'important', 'because', 'link-based', 'features', 'are', 'known', 'to', 'improve', 'in', 'quality', 'as', 'the', 'document', 'graph', 'grows.', 'If', 'we', 'carry', 'out', 'a', 'small', 'experiment,', 'our', 'conclusions', 'won"t', 'carry', 'over', 'to', 'large', 'graphs', 'such', 'as', 'the', 'web.', 'However,', 'computing', 'HITS', 'efficiently', 'on', 'a', 'graph', 'the', 'size', 'of', 'a', 'realistic', 'web', 'crawl', 'is', 'extraordinarily', 'difficult.', 'Relevance', 'is', 'also', 'crucial', 'because', 'we', 'cannot', 'measure', 'the', 'performance', 'of', 'a', 'feature', 'in', 'the', 'absence', 'of', 'human', 'judgments:', 'what', 'is', 'crucial', 'is', 'ranking', 'at', 'the', 'top', 'of', 'the', 'ten', 'or', 'so', 'documents', 'that', 'a', 'user', 'will', 'peruse.', 'To', 'our', 'knowledge,', 'this', 'paper', 'is', 'the', 'first', 'attempt', 'to', 'evaluate', 'HITS', 'at', 'a', 'large', 'scale', 'and', 'compare', 'it', 'to', 'other', 'link-based', 'features', 'with', 'respect', 'to', 'human', 'evaluated', 'judgment.', 'Our', 'results', 'confirm', 'many', 'of', 'the', 'intuitions', 'we', 'have', 'about', 'link-based', 'features', 'and', 'their', 'relationship', 'to', 'text', 'retrieval', 'methods', 'exploiting', 'anchor', 'text.', 'This', 'is', 'reassuring:', 'in', 'the', 'absence', 'of', 'a', 'theoretical', 'model', 'capable', 'of', 'tying', 'these', 'measures', 'with', 'relevance,', 'the', 'only', 'way', 'to', 'validate', 'our', 'intuitions', 'is', 'to', 'carry', 'out', 'realistic', 'experiments.', 'However,', 'we', 'were', 'quite', 'surprised', 'to', 'find', 'that', 'HITS,', 'a', 'query-dependent', 'feature,', 'is', 'about', 'as', 'effective', 'as', 'web', 'page', 'in-degree,', 'the', 'most', 'simpleminded', 'query-independent', 'link-based', 'feature.', 'This', 'continues', 'to', 'be', 'true', 'when', 'the', 'link-based', 'features', 'are', 'combined', 'with', 'a', 'text', 'retrieval', 'algorithm', 'exploiting', 'anchor', 'text.', 'The', 'remainder', 'of', 'this', 'paper', 'is', 'structured', 'as', 'follows:', 'Section', '2', 'surveys', 'related', 'work.', 'Section', '3', 'describes', 'the', 'data', 'sets', 'we', 'used', 'in', 'our', 'study.', 'Section', '4', 'reviews', 'the', 'performance', 'measures', 'we', 'used.', 'Sections', '5', 'and', '6', 'describe', 'the', 'PageRank', 'and', 'HITS', 'algorithms', 'in', 'more', 'detail,', 'and', 'sketch', 'the', 'computational', 'infrastructure', 'we', 'employed', 'to', 'carry', 'out', 'large', 'scale', 'experiments.', 'Section', '7', 'presents', 'the', 'results', 'of', 'our', 'evaluations,', 'and', 'Section', '8', 'offers', 'concluding', 'remarks.', '2.', 'RELATED', 'WORK', 'The', 'idea', 'of', 'using', 'hyperlink', 'analysis', 'for', 'ranking', 'web', 'search', 'results', 'arose', 'around', '1997,', 'and', 'manifested', 'itself', 'in', 'the', 'HITS', '[16,', '17]', 'and', 'PageRank', '[5,', '21]', 'algorithms.', 'The', 'popularity', 'of', 'these', 'two', 'algorithms', 'and', 'the', 'phenomenal', 'success', 'of', 'the', 'Google', 'search', 'engine,', 'which', 'uses', 'PageRank,', 'have', 'spawned', 'a', 'large', 'amount', 'of', 'subsequent', 'research.', 'There', 'are', 'numerous', 'attempts', 'at', 'improving', 'the', 'effectiveness', 'of', 'HITS', 'and', 'PageRank.', 'Query-dependent', 'link-based', 'ranking', 'algorithms', 'inspired', 'by', 'HITS', 'include', 'SALSA', '[19],', 'Randomized', 'HITS', '[20],', 'and', 'PHITS', '[7],', 'to', 'name', 'a', 'few.', 'Query-independent', 'link-based', 'ranking', 'algorithms', 'inspired', 'by', 'PageRank', 'include', 'TrafficRank', '[22],', 'BlockRank', '[14],', 'and', 'TrustRank', '[11],', 'and', 'many', 'others.', 'Another', 'line', 'of', 'research', 'is', 'concerned', 'with', 'analyzing', 'the', 'mathematical', 'properties', 'of', 'HITS', 'and', 'PageRank.', 'For', 'example,', 'Borodin', 'et', 'al.', '[3]', 'investigated', 'various', 'theoretical', 'properties', 'of', 'PageRank,', 'HITS,', 'SALSA,', 'and', 'PHITS,', 'including', 'their', 'similarity', 'and', 'stability,', 'while', 'Bianchini', 'et', 'al.', '[2]', 'studied', 'the', 'relationship', 'between', 'the', 'structure', 'of', 'the', 'web', 'graph', 'and', 'the', 'distribution', 'of', 'PageRank', 'scores,', 'and', 'Langville', 'and', 'Meyer', 'examined', 'basic', 'properties', 'of', 'PageRank', 'such', 'as', 'existence', 'and', 'uniqueness', 'of', 'an', 'eigenvector', 'and', 'convergence', 'of', 'power', 'iteration', '[18].', 'Given', 'the', 'attention', 'that', 'has', 'been', 'paid', 'to', 'improving', 'the', 'effectiveness', 'of', 'PageRank', 'and', 'HITS,', 'and', 'the', 'thorough', 'studies', 'of', 'the', 'mathematical', 'properties', 'of', 'these', 'algorithms,', 'it', 'is', 'somewhat', 'surprising', 'that', 'very', 'few', 'evaluations', 'of', 'their', 'effectiveness', 'have', 'been', 'published.', 'We', 'are', 'aware', 'of', 'two', 'studies', 'that', 'have', 'attempted', 'to', 'formally', 'evaluate', 'the', 'effectiveness', 'of', 'HITS', 'and', 'of', 'PageRank.', 'Amento', 'et', 'al.', '[1]', 'employed', 'quantitative', 'measures,', 'but', 'based', 'their', 'experiments', 'on', 'the', 'result', 'sets', 'of', 'just', '5', 'queries', 'and', 'the', 'web-graph', 'induced', 'by', 'topical', 'crawls', 'around', 'the', 'result', 'set', 'of', 'each', 'query.', 'A', 'more', 'recent', 'study', 'by', 'Borodin', 'et', 'al.', '[4]', 'is', 'based', 'on', '34', 'queries,', 'result', 'sets', 'of', '200', 'pages', 'per', 'query', 'obtained', 'from', 'Google,', 'and', 'a', 'neighborhood', 'graph', 'derived', 'by', 'retrieving', '50', 'in-links', 'per', 'result', 'from', 'Google.', 'By']
Document BIO Tags:  ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']
Extractive/present Keyphrases:  ['ranking', 'pagerank', 'mean reciprocal rank', 'mean average precision', 'query specificity', 'link graph', 'scale and relevance', 'hyperlink analysis', 'rank', 'bm25f', 'mrr', 'map', 'ndcg']
Abstractive/absent Keyphrases:  ['normalized discounted cumulative gain measurement', 'breadth-first search crawl', 'feature selection', 'link-based feature', 'quantitative measure', 'crawled web page', 'hit']

-----------

Sample from test dataset split
Fields in the sample:  ['id', 'document', 'doc_bio_tags', 'extractive_keyphrases', 'abstractive_keyphrases', 'other_metadata']
Tokenized Document:  ['Live', 'Data', 'Center', 'Migration', 'across', 'WANs:', 'A', 'Robust', 'Cooperative', 'Context', 'Aware', 'Approach', 'K.K.', 'Ramakrishnan,', 'Prashant', 'Shenoy', ',', 'Jacobus', 'Van', 'der', 'Merwe', 'AT&T', 'Labs-Research', '/', 'University', 'of', 'Massachusetts', 'ABSTRACT', 'A', 'significant', 'concern', 'for', 'Internet-based', 'service', 'providers', 'is', 'the', 'continued', 'operation', 'and', 'availability', 'of', 'services', 'in', 'the', 'face', 'of', 'outages,', 'whether', 'planned', 'or', 'unplanned.', 'In', 'this', 'paper', 'we', 'advocate', 'a', 'cooperative,', 'context-aware', 'approach', 'to', 'data', 'center', 'migration', 'across', 'WANs', 'to', 'deal', 'with', 'outages', 'in', 'a', 'non-disruptive', 'manner.', 'We', 'specifically', 'seek', 'to', 'achieve', 'high', 'availability', 'of', 'data', 'center', 'services', 'in', 'the', 'face', 'of', 'both', 'planned', 'and', 'unanticipated', 'outages', 'of', 'data', 'center', 'facilities.', 'We', 'make', 'use', 'of', 'server', 'virtualization', 'technologies', 'to', 'enable', 'the', 'replication', 'and', 'migration', 'of', 'server', 'functions.', 'We', 'propose', 'new', 'network', 'functions', 'to', 'enable', 'server', 'migration', 'and', 'replication', 'across', 'wide', 'area', 'networks', '(e.g.,', 'the', 'Internet),', 'and', 'finally', 'show', 'the', 'utility', 'of', 'intelligent', 'and', 'dynamic', 'storage', 'replication', 'technology', 'to', 'ensure', 'applications', 'have', 'access', 'to', 'data', 'in', 'the', 'face', 'of', 'outages', 'with', 'very', 'tight', 'recovery', 'point', 'objectives.', 'Categories', 'and', 'Subject', 'Descriptors', 'C.2.4', '[Computer-Communication', 'Networks]:', 'Distributed', 'Systems', 'General', 'Terms', 'Design,', 'Reliability', '1.', 'INTRODUCTION', 'A', 'significant', 'concern', 'for', 'Internet-based', 'service', 'providers', 'is', 'the', 'continued', 'operation', 'and', 'availability', 'of', 'services', 'in', 'the', 'face', 'of', 'outages,', 'whether', 'planned', 'or', 'unplanned.', 'These', 'concerns', 'are', 'exacerbated', 'by', 'the', 'increased', 'use', 'of', 'the', 'Internet', 'for', 'mission', 'critical', 'business', 'and', 'real-time', 'entertainment', 'applications.', 'A', 'relatively', 'minor', 'outage', 'can', 'disrupt', 'and', 'inconvenience', 'a', 'large', 'number', 'of', 'users.', 'Today', 'these', 'services', 'are', 'almost', 'exclusively', 'hosted', 'in', 'data', 'centers.', 'Recent', 'advances', 'in', 'server', 'virtualization', 'technologies', '[8,', '14,', '22]', 'allow', 'for', 'the', 'live', 'migration', 'of', 'services', 'within', 'a', 'local', 'area', 'network', '(LAN)', 'environment.', 'In', 'the', 'LAN', 'environment,', 'these', 'technologies', 'have', 'proven', 'to', 'be', 'a', 'very', 'effective', 'tool', 'to', 'enable', 'data', 'center', 'management', 'in', 'a', 'non-disruptive', 'fashion.', 'Not', 'only', 'can', 'it', 'support', 'planned', 'maintenance', 'events', '[8],', 'but', 'it', 'can', 'also', 'be', 'used', 'in', 'a', 'more', 'dynamic', 'fashion', 'to', 'automatically', 'balance', 'load', 'between', 'the', 'physical', 'servers', 'in', 'a', 'data', 'center', '[22].', 'When', 'using', 'these', 'technologies', 'in', 'a', 'LAN', 'environment,', 'services', 'execute', 'in', 'a', 'virtual', 'server,', 'and', 'the', 'migration', 'services', 'provided', 'by', 'the', 'underlying', 'virtualization', 'framework', 'allows', 'for', 'a', 'virtual', 'server', 'to', 'be', 'migrated', 'from', 'one', 'physical', 'server', 'to', 'another,', 'without', 'any', 'significant', 'downtime', 'for', 'the', 'service', 'or', 'application.', 'In', 'particular,', 'since', 'the', 'virtual', 'server', 'retains', 'the', 'same', 'network', 'address', 'as', 'before,', 'any', 'ongoing', 'network', 'level', 'interactions', 'are', 'not', 'disrupted.', 'Similarly,', 'in', 'a', 'LAN', 'environment,', 'storage', 'requirements', 'are', 'normally', 'met', 'via', 'either', 'network', 'attached', 'storage', '(NAS)', 'or', 'via', 'a', 'storage', 'area', 'network', '(SAN)', 'which', 'is', 'still', 'reachable', 'from', 'the', 'new', 'physical', 'server', 'location', 'to', 'allow', 'for', 'continued', 'storage', 'access.', 'Unfortunately', 'in', 'a', 'wide', 'area', 'environment', '(WAN),', 'live', 'server', 'migration', 'is', 'not', 'as', 'easily', 'achievable', 'for', 'two', 'reasons:', 'First,', 'live', 'migration', 'requires', 'the', 'virtual', 'server', 'to', 'maintain', 'the', 'same', 'network', 'address', 'so', 'that', 'from', 'a', 'network', 'connectivity', 'viewpoint', 'the', 'migrated', 'server', 'is', 'indistinguishable', 'from', 'the', 'original.', 'While', 'this', 'is', 'fairly', 'easily', 'achieved', 'in', 'a', 'shared', 'LAN', 'environment,', 'no', 'current', 'mechanisms', 'are', 'available', 'to', 'efficiently', 'achieve', 'the', 'same', 'feat', 'in', 'a', 'WAN', 'environment.', 'Second,', 'while', 'fairly', 'sophisticated', 'remote', 'replication', 'mechanisms', 'have', 'been', 'developed', 'in', 'the', 'context', 'of', 'disaster', 'recovery', '[20,', '7,', '11],', 'these', 'mechanisms', 'are', 'ill', 'suited', 'to', 'live', 'data', 'center', 'migration,', 'because', 'in', 'general', 'the', 'available', 'technologies', 'are', 'unaware', 'of', 'application/service', 'level', 'semantics.', 'In', 'this', 'paper', 'we', 'outline', 'a', 'design', 'for', 'live', 'service', 'migration', 'across', 'WANs.', 'Our', 'design', 'makes', 'use', 'of', 'existing', 'server', 'virtualization', 'technologies', 'and', 'propose', 'network', 'and', 'storage', 'mechanisms', 'to', 'facilitate', 'migration', 'across', 'a', 'WAN.', 'The', 'essence', 'of', 'our', 'approach', 'is', 'cooperative,', 'context', 'aware', 'migration,', 'where', 'a', 'migration', 'management', 'system', 'orchestrates', 'the', 'data', 'center', 'migration', 'across', 'all', 'three', 'subsystems', 'involved,', 'namely', 'the', 'server', 'platforms,', 'the', 'wide', 'area', 'network', 'and', 'the', 'disk', 'storage', 'system.', 'While', 'conceptually', 'similar', 'in', 'nature', 'to', 'the', 'LAN', 'based', 'work', 'described', 'above,', 'using', 'migration', 'technologies', 'across', 'a', 'wide', 'area', 'network', 'presents', 'unique', 'challenges', 'and', 'has', 'to', 'our', 'knowledge', 'not', 'been', 'achieved.', 'Our', 'main', 'contribution', 'is', 'the', 'design', 'of', 'a', 'framework', 'that', 'will', 'allow', 'the', 'migration', 'across', 'a', 'WAN', 'of', 'all', 'subsystems', 'involved', 'with', 'enabling', 'data', 'center', 'services.', 'We', 'describe', 'new', 'mechanisms', 'as', 'well', 'as', 'extensions', 'to', 'existing', 'technologies', 'to', 'enable', 'this', 'and', 'outline', 'the', 'cooperative,', 'context', 'aware', 'functionality', 'needed', 'across', 'the', 'different', 'subsystems', 'to', 'enable', 'this.', '262', '2.', 'LIVE', 'DATA', 'CENTER', 'MIGRATION', 'ACROSS', 'WANS', 'Three', 'essential', 'subsystems', 'are', 'involved', 'with', 'hosting', 'services', 'in', 'a', 'data', 'center:', 'First,', 'the', 'servers', 'host', 'the', 'application', 'or', 'service', 'logic.', 'Second,', 'services', 'are', 'normally', 'hosted', 'in', 'a', 'data', 'center', 'to', 'provide', 'shared', 'access', 'through', 'a', 'network,', 'either', 'the', 'Internet', 'or', 'virtual', 'private', 'networks', '(VPNs).', 'Finally,', 'most', 'applications', 'require', 'disk', 'storage', 'for', 'storing', 'data', 'and', 'the', 'amount', 'of', 'disk', 'space', 'and', 'the', 'frequency', 'of', 'access', 'varies', 'greatly', 'between', 'different', 'services/applications.', 'Disruptions,', 'failures,', 'or', 'in', 'general,', 'outages', 'of', 'any', 'kind', 'of', 'any', 'of', 'these', 'components', 'will', 'cause', 'service', 'disruption.', 'For', 'this', 'reason,', 'prior', 'work', 'and', 'current', 'practices', 'have', 'addressed', 'the', 'robustness', 'of', 'individual', 'components.', 'For', 'example,', 'data', 'centers', 'typically', 'have', 'multiple', 'network', 'connections', 'and', 'redundant', 'LAN', 'devices', 'to', 'ensure', 'redundancy', 'at', 'the', 'networking', 'level.', 'Similarly,', 'physical', 'servers', 'are', 'being', 'designed', 'with', 'redundant', 'hot-swappable', 'components', '(disks,', 'processor', 'blades,', 'power', 'supplies', 'etc).', 'Finally,', 'redundancy', 'at', 'the', 'storage', 'level', 'can', 'be', 'provided', 'through', 'sophisticated', 'data', 'mirroring', 'technologies.', 'The', 'focus', 'of', 'our', 'work,', 'however,', 'is', 'on', 'the', 'case', 'where', 'such', 'local', 'redundancy', 'mechanisms', 'are', 'not', 'sufficient.', 'Specifically,', 'we', 'are', 'interested', 'in', 'providing', 'service', 'availability', 'when', 'the', 'data', 'center', 'as', 'a', 'whole', 'becomes', 'unavailable,', 'for', 'example', 'because', 'of', 'data', 'center', 'wide', 'maintenance', 'operations,', 'or', 'because', 'of', 'catastrophic', 'events.', 'As', 'such,', 'our', 'basic', 'approach', 'is', 'to', 'migrate', 'services', 'between', 'data', 'centers', 'across', 'the', 'wide', 'are', 'network', '(WAN).', 'By', 'necessity,', 'moving', 'or', 'migrating', 'services', 'from', 'one', 'data', 'center', 'to', 'another', 'needs', 'to', 'consider', 'all', 'three', 'of', 'these', 'components.', 'Historically,', 'such', 'migration', 'has', 'been', 'disruptive', 'in', 'nature,', 'requiring', 'downtime', 'of', 'the', 'actual', 'services', 'involved,', 'or', 'requiring', 'heavy', 'weight', 'replication', 'techniques.', 'In', 'the', 'latter', 'case', 'concurrently', 'running', 'replicas', 'of', 'a', 'service', 'can', 'be', 'made', 'available', 'thus', 'allowing', 'a', 'subset', 'of', 'the', 'service', 'to', 'be', 'migrated', 'or', 'maintained', 'without', 'impacting', 'the', 'service']
Document BIO Tags:  ['O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']
Extractive/present Keyphrases:  ['data center migration', 'wan', 'lan', 'virtual server', 'storage replication', 'synchronous replication', 'asynchronous replication', 'network support', 'storage', 'voip']
Abstractive/absent Keyphrases:  ['internet-based service', 'voice-over-ip', 'database']

-----------

Keyphrase Extraction

from datasets import load_dataset

# get the dataset only for keyphrase extraction
dataset = load_dataset("midas/semeval2010", "extraction")

print("Samples for Keyphrase Extraction")

# sample from the train split
print("Sample from train data split")
test_sample = dataset["train"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("\n-----------\n")

# sample from the test split
print("Sample from test data split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("\n-----------\n")

Keyphrase Generation

# get the dataset only for keyphrase generation
dataset = load_dataset("midas/semeval2010", "generation")

print("Samples for Keyphrase Generation")

# sample from the train split
print("Sample from train data split")
test_sample = dataset["train"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

# sample from the test split
print("Sample from test data split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

Citation Information

@inproceedings{10.5555/1859664.1859668,
author = {Kim, Su Nam and Medelyan, Olena and Kan, Min-Yen and Baldwin, Timothy},
title = {SemEval-2010 Task 5: Automatic Keyphrase Extraction from Scientific Articles},
year = {2010},
publisher = {Association for Computational Linguistics},
address = {USA},
abstract = {This paper describes Task 5 of the Workshop on Semantic Evaluation 2010 (SemEval-2010). Systems are to automatically assign keyphrases or keywords to given scientific articles. The participating systems were evaluated by matching their extracted keyphrases against manually assigned ones. We present the overall ranking of the submitted systems and discuss our findings to suggest future directions for this task.},
booktitle = {Proceedings of the 5th International Workshop on Semantic Evaluation},
pages = {21–26},
numpages = {6},
location = {Los Angeles, California},
series = {SemEval '10}
}

Contributions

Thanks to @debanjanbhucs, @dibyaaaaax and @ad6398 for adding this dataset

Downloads last month: 148

Size of downloaded dataset files:

83.1 MB

Size of the auto-converted Parquet files:

14.4 MB

Number of rows:

732