Datasets:

anlp

/

annotation1_wo_elimination

like 0

Follow

anlp team project 4

[ "4.4", "Middle", "-", "grained", "Component", "Constrain", "After", "deriving", "the", "candidate", "components", "according", "to", "Section", "4.3", ",", "the", "KB", "-", "based", "constraint", "is", "required", "to", "guarantee", "the", "composed", "logical", "expression", "is", "executable", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "straightforward", "idea", "is", "to", "fill", "the", "logical", "skeleton", "with", "candidate", "relations", ",", "classes", ",", "and", "entities", ",", "and", "execute", "them", "one", "by", "one", "to", "check", "executability", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "such", "enumeration", "is", "ineffi-", "cient", ",", "since", "all", "combinations", "of", "candidate", "compo-", "nents", "should", "be", "considered", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "incor-", "porate", "the", "middle", "-", "grained", "component", "pairs", "which", "are", "connected", "in", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "pairs", "can", "be", "produced", "efficiently", "to", "keep", "the", "model", "’s", "efficiency", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "middle", "-", "grained", "component", "pairs", "include", "class", "-", "relation", "pairs", ",", "relation", "-", "relation", "pairs", ",", "and", "relation", "-", "entity", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "class", "c∈Cqand", "each", "relation", "r∈Rq", ",", "ifris", "connected", "with", "the", "domain", "class", "c", ",", "we", "add", "(", "c", ",", "r", ")", "into", "the", "class-", "relation", "pair", "set", "Pc−r", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", "in", "Figure", "3", ",", "the", "class", "“", "railway.railway", "”", "is", "linked", "with", "the", "re-", "lation", "“", "rail.railway.terminuses", "”", ",", "so", "the", "pair", "(", "rail-", "way.railway", ",", "rail.railway.terminuses", ")", "is", "executable", "and", "will", "be", "added", "into", "Pc−r", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "the", "range", "class", "ofrisc", ",", "we", "add", "the", "pair", "of", "cand", "the", "reverse", "relation", "of", "r", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "construct", "executable", "relation-", "relation", "pair", "set", "Pr−rby", "checking", "each", "relation", "pair", "(", "r1∈Rq", ",", "r2∈Rq", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Ifr2", "’s", "domain", "class", "does", "not", "match", "r1", "’s", "range", "class", ",", "we", "directly", "re-", "move", "this", "pair", "to", "maintain", "efficiency", ",", "otherwise", ",", "we", "reformulate", "(", "r1", ",", "r2", ")", "to", "a", "logical", "expression", "and", "execute", "on", "KB", "to", "check", "its", "connectivity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "relation", "-", "entity", "pair", "(", "r", ",", "e", ")", ",", "we", "first", "check", "whether", "the", "logical", "skeleton", "candidates", "contain", "the", "<", "entity", ">", "placeholder", "or", "not", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "not", ",", "we", "leave", "Pr−eempty", ";", "otherwise", "we", "directly", "take", "the", "result", "of", "the", "relation-", "pruning", "strategy", "for", "entities", "in", "Section", "4.3", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Coarse", "-", "grained", "Component", "Composition", "We", "apply", "a", "generation", "model", "based", "on", "T5", "to", "com-", "pose", "all", "the", "above", "fine", "-", "grained", "and", "middle", "-", "grained", "component", "candidates", "and", "output", "an", "executable", "logical", "expression", "by", "a", "controlled", "decoder", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Encoding", "Process", "." ]

[ "O", "O", "O" ]

[ "Before", "feeding", "the", "fine-", "grained", "and", "middle", "-", "grained", "component", "candidates", "into", "the", "generator", ",", "we", "sort", "the", "middle", "-", "grained", "can-", "didates", "according", "to", "their", "similarity", "scores", "to", "the", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "By", "doing", "this", ",", "the", "order", "can", "reveal", "the", "pattern", "of", "which", "pair", "is", "more", "likely", "to", "appear", "in", "theground", "-", "truth", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "intuition", ",", "such", "a", "pattern", "will", "help", "to", "generate", "more", "accurate", "log-", "ical", "expressions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "accomplish", "this", ",", "we", "take", "the", "logits", "of", "the", "fine", "-", "grained", "component", "detection", "in", "section", "4.3", "as", "the", "similarity", "score", "between", "the", "ques-", "tion", "and", "each", "class", "/", "relation", "component", ",", "and", "then", "calculate", "the", "similarity", "score", "between", "the", "question", "and", "a", "middle", "-", "grained", "component", "pair", "by", "summing", "the", "scores", "of", "contained", "single", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "encoding", "of", "such", "middle", "-", "grained", "component", "im-", "proves", "the", "generator", "’s", "reasoning", "capacity", "in", "terms", "of", "capturing", "the", "knowledge", "constraints", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "“", ";", "”", "to", "separate", "each", "element", "(", "a", "compo-", "nent", "or", "a", "component", "pair", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "explicitly", "inform", "the", "model", "the", "type", "of", "each", "component", ",", "we", "place", "“", "[", "REL", "]", "”", ",", "“", "[", "CL", "]", "”", ",", "“", "[", "ENT", "]", "”", ",", "and", "“", "[", "LF", "]", "”", "before", "each", "relation", ",", "class", ",", "entity", ",", "and", "logical", "skeleton", "respectively", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "we", "organize", "the", "input", "of", "encoder", "as", "“", "query", ";", "[", "CL", "]", "c1", "[", "REL", "]", "r1", ";", "[", "REL", "]", "r1", "[", "REL", "]", "r2", ";", "[", "CL", "]", "c2", "[", "REL", "]", "r3", ";", "[", "ENT", "]", "e1", ";", "[", "LF", "]", "l1", ";", "[", "LF", "]", "l2", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Decoding", "Process", "." ]

[ "O", "O", "O" ]

[ "The", "middle", "-", "grained", "compo-", "nents", "are", "also", "used", "to", "produce", "a", "dynamic", "vocab-", "ulary", "to", "constrain", "the", "decoding", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "gen-", "erated", "token", "ytis", "confined", "to", "the", "tokens", "involved", "in", "the", "dynamic", "vocabulary", "at", "each", "step", "t", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "ini-", "tialize", "the", "dynamic", "vocabulary", "with", "the", "union", "of", "tokens", "from", "the", "detected", "entities", ",", "tokens", "from", "the", "detected", "classes", "in", "Pc−r", ",", "i.e.", ",", "usually", "the", "answer", "type", ",", "and", "the", "keywords", "such", "as", "“", "JOIN", "”", "in", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "we", "update", "the", "dynamic", "vocabulary", "by", "the", "relations", "paired", "with", "rinPr−rif", "the", "last", "generated", "component", "is", "ror", "by", "the", "relations", "paired", "withcinPc−rif", "it", "is", "c", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Experiment", "5.1", "Experimental", "Settings", "Dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "evaluate", "our", "method", "on", "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "WebQSP", "(", "Yih", "et", "al", ".", ",", "2016", ")", ",", "and", "CWQ", "(", "Talmor", "and", "Berant", ",", "2018", ")", ",", "all", "of", "which", "are", "based", "on", "Freebase", "." ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "GrailQA", "focuses", "on", "generaliza-", "tion", "problems", "which", "involved", "up", "to", "4", "-", "hop", "logical", "expressions", "and", "complex", "operations", "." ]

[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "WebQSP", "is", "an", "i.i.d", "." ]

[ "B-DatasetName", "O", "O", "O", "O" ]

[ "benchmark", "that", "required", "2", "-", "hop", "reasoning", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Although", "CWQ", "is", "not", "designed", "to", "solve", "generaliza-", "tion", "problem", ",", "we", "can", "still", "separate", "out", "the", "zero", "-", "shot", "test", "set", "with", "all", "the", "unseen", "relations", "and", "classes", ",", "yielding", "576", "/", "3519", "zero", "-", "shot", "/", "all", "test", "set", "." ]

[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Evaluation", "Metrics", "." ]

[ "O", "O", "O" ]

[ "To", "measure", "the", "accuracy", "of", "logical", "expression", ",", "we", "use", "the", "well", "-", "adopted", "exact", "match", "(", "EM", ")", "which", "measures", "the", "exact", "equivalence1007", "Table", "1", ":", "Results", "of", "overall", "evaluation", "on", "GrailQA", "-", "LeaderBoard", "(", "%", ")", "." ]

[ "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O" ]

[ "Overall", "I.I.D", "." ]

[ "O", "O", "O" ]

[ "We", "also", "calculate", "the", "F1", "score", "based", "on", "the", "predicted", "and", "gold", "answers", "." ]

[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", "." ]

[ "O", "O" ]

[ "On", "GrailQA", ",", "we", "mainly", "compare", "with", "the", "published", "works", "on", "the", "leaderboard", ",", "in-", "cluding", "GrailQA", "-", "Rank", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "GrailQA-", "Trans", "(", "Gu", "et", "al", ".", ",", "2021", ")", ",", "Retrack", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "are", "all", "SP-", "based", "models", "that", "target", "generalization", "problems", "in", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "On", "WebQSP", "and", "CWQ", ",", "we", "compare", "our", "method", "with", "the", "retrieval", "-", "based", "models", "in-", "cluding", "GraphNet", "(", "Pu", "et", "al", ".", ",", "2018", ")", ",", "PullNet", "(", "Sun", "et", "al", ".", ",", "2019", ")", "and", "NSM", "(", "He", "et", "al", ".", ",", "2021b", ")", ",", "and", "the", "SP", "-", "based", "models", "including", "QGG", "(", "Lan", "and", "Jiang", ",", "2020", ")", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", ",", "and", "PI", "Trans-", "fer", "(", "Cao", "et", "al", ".", ",", "2022b", ")", "." ]

[ "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "evaluate", "F1", "for", "the", "retrieval", "-", "based", "models", ",", "while", "evaluate", "both", "F1", "and", "EM", "for", "the", "SP", "-", "based", "methods", "." ]

[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "compare", "all", "the", "baselines", "that", "have", "the", "results", "on", "the", "two", "datasets", "or", "publish", "the", "codes", "that", "can", "be", "executed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.2", "Overall", "Evaluation", "Performance", "." ]

[ "O", "O", "O", "O", "O" ]

[ "In", "Table", "1", "and", "Table", "2", ",", "we", "eval-", "uate", "the", "performance", "of", "FC", "-", "KBQA", "on", "different", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ "For", "the", "baselines", ",", "we", "directly", "take", "their", "results", "reported", "in", "the", "original", "papers", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "be", "noted", ",", "on", "the", "extracted", "zero", "-", "shot", "test", "set", "of", "CWQ", ",", "the", "re-", "sults", "for", "some", "models", "remain", "empty", "because", "their", "full", "codes", "are", "not", "released", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "shown", "in", "Table", "1", ",", "our", "model", "outperforms", "all", "the", "baselines", ",", "especially", "on", "the", "compositional", "and", "zero", "-", "shot", "test", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Com-", "pared", "with", "RNG", "-", "KBQA", ",", "the", "state", "-", "of", "-", "the", "-", "art", "pub-", "lished", "model", ",", "we", "have", "an", "absolute", "gain", "of", "4.3", "%", "and", "4.4", "%", "in", "terms", "of", "F1", "score", "and", "EM", "respectively", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "O", "O" ]

[ "We", "also", "outperform", "on", "the", "extracted", "zero", "-", "shot", "CWQ", "test", "set", "by", "11.3", "%", "in", "terms", "of", "F1", ",", "as", "for", "an", "unseen", "complex", "question", ",", "parsing", "out", "correct", "knowledge", "components", "and", "logical", "skeletons", "is", "much", "easier", "than", "directly", "parsing", "the", "coarse", "-", "grained", "logical", "ex-", "pression", "correctly", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Since", "the", "fine", "-", "grained", "module", "solely", "focuses", "on", "each", "component", "and", "thus", "leadsTable", "2", ":", "F1", "Evaluation", "on", "WebQSP", "and", "CWQ", "(", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ "On", "the", "original", "test", "set", "of", "CWQ", ",", "we", "only", "under", "-", "perform", "PI", "Transfer", "which", "leverages", "a", "pre", "-", "train", "process", "on", "a", "large", "-", "scale", "wiki", "data", "that", "is", "out", "scope", "of", "CWQ", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "Efficiency", "." ]

[ "O", "O" ]

[ "Both", "RNG", "-", "KBQA", "and", "GrailQA", "-", "Rank", "enumerate", "all", "the", "logical", "expressions", "in", "a", "2", "-", "hop", "KB", "subgraph", "(", "enumeration", ")", ",", "so", "it", "is", "time", "-", "consuming", "for", "the", "rank", "model", "to", "score", "thousands", "of", "logical", "expressions", "for", "each", "question", "(", "candidate", "selection", ")", "." ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Conversely", ",", "our", "FC", "-", "KBQA", "just", "retrieves", "the", "most", "relevant", "components", "(", "candidate", "selection", ")", "and", "then", "enumerates", "the", "component", "pairs", "based", "on", "the", "fil-", "tered", "candidates", "(", "enumeration", ")", ",", "which", "greatly", "re-", "duces", "the", "inference", "time", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Besides", "enumeration", "and", "candidate", "selection", ",", "a", "seq", "-", "to", "-", "seq", "model", "is", "used", "to", "generate", "the", "final", "logical", "expression", "(", "final", "composi-", "tion", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "same", "24", "GB", "GPU", "and", "Intel", "Gold", "5218", "CPU", ",", "the", "experimental", "results", "in", "Figure", "5", "show", "that", "our", "model", "runs", "4", "times", "faster", "than", "baselines", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Ablation", "Studies", "GrailQA", "does", "not", "provide", "ground", "truth", "for", "the", "test", "set", ",", "so", "we", "conduct", "the", "ablation", "studies", "on", "the", "public", "Grail", "-", "Dev", "to", "investigate", "how", "the", "fine-", "and", "middle-", "grained", "components", "affect", "the", "performance", "." ]

[ "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "shown", "in", "Table", "3", ",", "we", "develop", "four", "model", "variants", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "1", ")", "-Knowledge", "removes", "all", "the", "fine-", "grained", "and", "middle", "-", "grained", "components", "except", "for", "the", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2", ")", "-Knowledge", "Pairs", "replaces", "the", "middle", "-", "grained", "components", ",", "such", "as1008", "Table", "3", ":", "Ablation", "studies", "on", "GrailQA", "-", "Dev", "(", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "Overall", "I.I.D", "." ]

[ "O", "O", "O" ]

[ "“", "Overall", "”", "de-", "notes", "the", "total", "inference", "time", "of", "each", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specially", ",", "GrailQA", "-", "Rank", "has", "no", "composition", "step", ",", "we", "record", "the", "corresponding", "time", "as", "zero", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "class", "-", "relation", "pairs", "and", "relation", "-", "relation", "pairs", "with", "the", "corresponding", "fine", "-", "grained", "candidates", ",", "such", "as", "classes", "and", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "3", ")", "-Logical", "Skeleton", "gets", "rid", "of", "the", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "4", ")", "-Decode", "Constraint", "deletes", "the", "dynamic", "vocabulary", "created", "with", "the", "middle", "-", "grained", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "show", "that", "removing", "“", "knowledge", "”", "re-", "duces", "model", "performance", "by", "60", "%", "F1", "score", ",", "and", "replacing", "“", "knowledge", "pairs", "”", "with", "pure", "fine", "-", "grained", "components", "also", "reduces", "model", "performance", "by", "28", "%", "F1", ",", "indicating", "that", "encoding", "the", "middle-", "grained", "components", "can", "significantly", "improve", "the", "model", "’s", "reasoning", "capacity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "further", "demonstrate", "that", "encoding", "such", "middle", "-", "grained", "components", "can", "also", "help", "improve", "other", "model", "’s", "performance", ",", "we", "create", "Enhanced", "RNG", "-", "KBQA", "by", "taking", "the", "top-10", "ranked", "results", "from", "its", "ranking", "model", "and", "formulat-", "ing", "them", "into", "middle", "-", "grained", "component", "pairs", "to", "be", "injected", "into", "its", "encoder", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "in", "Table", "3", "show", "that", "middle", "-", "grained", "reformulation", "improves", "the", "performance", "of", "RNG", "-", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]

[ "Middle", "-", "grained", "component", "pairs", ",", "like", "coarse", "-", "grained", "logical", "ex-", "pressions", ",", "can", "guarantee", "connectivity", ",", "but", "they", "aremore", "compact", "and", "much", "shorter", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "result", ",", "be-", "cause", "PLMs", "have", "a", "maximum", "input", "length", ",", "the", "middle", "-", "grained", "formulation", "can", "inject", "more", "com-", "ponents", "and", "is", "more", "likely", "to", "cover", "the", "components", "involved", "in", "the", "target", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Removing", "“", "logical", "skeleton", "”", "can", "result", "in", "a", "3.0", "%", "F1", "drop", ",", "indicating", "that", "skeleton", "is", "useful", "for", "guid-", "ing", "the", "question", "understanding", "even", "though", "it", "is", "less", "important", "than", "the", "knowledge", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Removing", "“", "decode", "constraint", "”", "in", "the", "decoder", "can", "also", "have", "an", "effect", "on", "model", "performance", ",", "but", "is", "much", "weaker", "than", "removing", "“", "knowledge", "pairs", "”", "in", "the", "encoder", ",", "indicating", "that", "injecting", "the", "knowl-", "edge", "constraints", "in", "the", "encoding", "process", "is", "more", "useful", "than", "in", "the", "decoding", "process", ",", "because", "the", "en-", "coder", "learns", "the", "bidirectional", "context", ",", "which", "is", "bet-", "ter", "suited", "to", "natural", "language", "understanding", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "is", "also", "a", "significant", "difference", "from", "the", "existing", "knowledge", "constrained", "decoding", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Both", "\"", "Knowledge", "Pairs", "\"", "and", "\"", "Decode", "Con-", "straint", "\"", "are", "proposed", "for", "addressing", "the", "in-", "executability", "issue", ",", "which", "guarantee", "all", "generated", "logical", "expressions", "are", "executable", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Removing", "ei-", "ther", "reduces", "the", "accuracy", ",", "which", "indicates", "that", "high", "executability", "can", "improve", "the", "model", "performance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.4", "Error", "Analysis", "We", "randomly", "select", "50", "error", "cases", "on", "GrailQA", "and", "summarize", "the", "error", "into", "three", "main", "categories", ":", "error", "entity", "(", "60", "%", ")", ",", "error", "relation", "and", "class", "(", "35", "%", ")", ",", "and", "error", "logical", "skeleton", "(", "40", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "analysis", "the", "error", "cases", "while", "our", "model", "fails", "but", "some", "baseline", "methods", "can", "answer", "successfully", "resolve", "them", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "typical", "mistake", "is", "on", "logical", "expressions", "that", "involve", "KB", "-", "specific", "component", "composition", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "in", "Freebase", ",", "“", "coach", "”", "is", "represented", "by", "the", "join", "of", "“", "sports.sports_team.coaches", "”", "and", "“", "sports.sports_team_coach_tenure.coach”.1009", "Our", "fine", "-", "to", "-", "coarse", "model", "only", "predicts", "the", "previous", "relation", "but", "is", "unable", "to", "recall", "“", "sports.sports_team_coach_tenure.coach", "”", ",", "while", "some", "coarse", "-", "grained", "methods", "are", "able", "to", "memorize", "such", "composition", "and", "provide", "the", "correct", "answer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "6", "Conclusion", "This", "paper", "proposes", "FC", "-", "KBQA", ",", "a", "Fine", "-", "to-", "Coarse", "composition", "framework", "for", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "The", "core", "idea", "behind", "it", "is", "to", "solve", "the", "entanglement", "issue", "of", "main-", "stream", "coarse", "-", "grained", "modeling", "by", "the", "fine", "-", "grained", "modeling", ",", "and", "further", "improve", "the", "executability", "of", "logical", "expression", "by", "reformulating", "the", "fine-", "grained", "knowledge", "into", "middle", "-", "grained", "knowledge", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Benefiting", "from", "this", ",", "FC", "-", "KBQA", "achieves", "new", "state", "-", "of", "-", "the", "-", "art", "performance", "and", "efficiency", "on", "the", "compositional", "and", "zero", "-", "shot", "generalization", "KBQA", "tasks", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]

[ "This", "fine", "-", "to", "-", "coarse", "framework", "with", "middle", "-", "grained", "knowledge", "injection", "could", "be", "in-", "spiring", "for", "generalization", "on", "other", "NLP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "7", "Limitations", "Although", "our", "model", "achieves", "good", "performance", "in", "solving", "the", "compositional", "and", "zero", "-", "shot", "generalization", "problems", ",", "there", "is", "still", "room", "for", "improvement", "on", "the", "i.i.d", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "fine", "-", "grained", "module", "in", "our", "framework", "can", "not", "take", "advantage", "of", "explicit", "composition", "infor-", "mation", "when", "the", "component", "compositions", "in", "the", "testing", "set", "and", "training", "set", "significantly", "overlapp", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "in", "Freebase", ",", "\"", "Who", "is", "the", "coach", "of", "FC", "Barcelona", "?", "\"", "is", "answered", "by", "the", "join", "of", "relation", "“", "sports.sports_team.coaches", "”", "and", "“", "sports.sports_team_coach_tenure.coach", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "fine", "-", "grained", "extractor", "may", "fail", "to", "recall", "“", "sports.sports_team_coach_tenure.coach", "”", "and", "in-", "stead", "select", "“", "base.american_football.football_coac", "-h.coach", "”", "as", "the", "candidate", "since", "‘", "football", "coach", "”", "is", "more", "relevant", "to", "the", "question", "than", "“", "coach", "tenure", "”", "in", "semantics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "only", "coarse", "-", "grained", "model", ",", "however", ",", "can", "directly", "memorize", "the", "pattern", "because", "such", "composition", "appears", "frequently", "in", "the", "training", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "compared", "to", "conventional", "models", "that", "completely", "memorize", "composition", "patterns", ",", "our", "model", "may", "only", "have", "minor", "advantages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Another", "limitation", "is", "that", "we", "can", "not", "guar-", "antee", "the", "generalization", "on", "other", "KBs", "such", "as", "WikiData", "because", "gaps", "between", "KBs", "may", "bring", "negative", "impact", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "rela-", "tions", "in", "Freebase", "are", "often", "more", "specific", "(", "ice_hockey.hockey_player.hockey_position", ",", "soccer.football_player.position_s", ")", ",", "while", "re-", "lations", "in", "Wikidata", "are", "more", "general", "(", "posi-", "tion_played_on_team", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "consider", "it", "as", "a", "direction", "for", "our", "future", "work", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "8", "Ethics", "Statement", "This", "work", "focuses", "on", "the", "generalization", "issue", "of", "knowledge", "base", "question", "answering", ",", "and", "the", "con-", "tribution", "is", "fully", "methodological", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Hence", ",", "there", "are", "no", "direct", "negative", "social", "impacts", "of", "this", "work", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "experiments", ",", "this", "work", "uses", "open", "datasets", "that", "have", "been", "widely", "used", "in", "previous", "work", "and", "are", "without", "sensitive", "information", "as", "we", "know", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "authors", "of", "this", "work", "follow", "the", "ACL", "Code", "of", "Ethics", "and", "the", "application", "of", "this", "work", "have", "no", "obvious", "issue", "that", "may", "lead", "to", "the", "risk", "of", "ethics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1018–1032", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Does", "GPT-3", "Grasp", "Metaphors", "?", "Identifying", "Metaphor", "Mappings", "with", "Generative", "Language", "ModelsLennart", "WachowiakKing", "’s", "College", "Londonlennart.wachowiak", "@", "gmail.comDagmar", "GromannUniversity", "of", "Viennadagmar.gromann", "@", "gmail.comAbstractConceptual", "metaphors", "present", "a", "powerful", "cog", "-", "nitive", "vehicle", "to", "transfer", "knowledge", "structuresfrom", "a", "source", "to", "a", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]