Datasets:

anlp

/

annotation1_wo_elimination

like 0

Follow

anlp team project 4

[ "We", "conduct", "subjective", "ex-", "periments", "for", "\"", "Beat", "Construction", "\"", ",", "including", "\"", "Sen-", "tence", "Length", "Generation", "\"", "and", "\"", "Beat", "Generation", "\"", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Besides", ",", "we", "also", "conduct", "subjective", "experiments", "for", "model", "comparison", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "subjective", "experi-", "ment", ",", "we", "invite", "43", "annotators", "to", "evaluate", "the", "gen-", "erated", "lyrics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Each", "annotator", "is", "required", "to", "score", "lyrics", "concerning", "four", "aspects", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Each", "aspect", "is", "rated", "with", "an", "opinion", "score", "from", "1", "to", "5", "(", "from", "bad", "to", "excellent", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "four", "aspects", "are", "as", "follows", ":", "1", ")", "Co-", "herence", ":", "the", "overall", "consistency", "of", "the", "topic", "of", "the", "entire", "song", ";", "2", ")", "Fluency", ":", "the", "fluency", "of", "the", "semantic", "correlation", "within", "a", "sentence", "and", "between", "the", "sen-", "tence", ";", "3", ")", "Correlation", ":", "the", "structural", "or", "semantic", "similarity", "among", "sentences", ",", "such", "as", "the", "distribution", "of", "words", "and", "corresponding", "relationships", "of", "sen-", "tences", ";", "4", ")", "Fascination", ":", "the", "degree", "of", "fascinating", "sentences", "in", "annotators", "’", "opinion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Experiments", "Results", "In", "this", "section", ",", "we", "report", "and", "analyze", "both", "objective", "and", "subjective", "experimental", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "show", "some", "cases", "in", "Appendix", "H", "to", "verify", "the", "ability", "of", "UniLG", "to", "handle", "different", "generation", "conditions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "5.1", "Objective", "Results", "Model", "Comparison", "We", "compare", "MT5", ",", "SongNet", ",", "and", "UniLG", "on", "the", "Song8k", "and", "the", "test", "set", "of", "the", "lyric", "-", "template", "dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "of", "the", "model", "comparison", "(", "in", "Table", "1", ")", "show", "that", "MT5", "achieves", "the", "best", "results", "in", "PPL", "and", "Integrity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "Our", "UniLG", "outperforms", "baselines", "in", "Format", "F1", ",", "Beat", "F1", ",", "and", "Structure", "F1.The", "Structure", "F1", "shows", "that", "our", "framework", "does", "generate", "the", "lyrics", "with", "better", "structure", ",", "which", "indicates", "that", "the", "musical", "information", "improves", "the", "structural", "modeling", "." ]

[ "O", "B-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricName", "I-MetricName", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Ablation", "Study", "We", "further", "ablate", "our", "UniLG", "to", "verify", "the", "impact", "of", "musical", "and", "textual", "informa-", "tion", "as", "well", "as", "the", "CCL", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "From", "the", "results", "shown", "in", "Table", "2", ",", "we", "see", "that", "the", "textual", "information", "(", "Seg", "&", "Pos", ")", ",", "musical", "information", "(", "Bar", "&", "Beat", ")", ",", "andCCL", "play", "crucial", "roles", "in", "the", "overall", "performance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "modules", "of", "our", "framework", "show", "significant", "improvement", ",", "especially", "on", "the", "metrics", "of", "Beat", "F1", "and", "Structure", "F1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O" ]

[ "The", "CCL", "may", "enhance", "the", "musical", "information", "to", "boost", "performance", "in", "For-", "mat", "F1", ",", "Beat", "F1", ",", "and", "Structure", "F1", ",", "but", "at", "the", "same", "time", "may", "introduce", "noise", "and", "cause", "degradation", "in", "general", "metrics", "(", "PPL", "and", "Integrity", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "effec-", "tiveness", "of", "the", "CCL", "further", "proves", "that", "the", "musi-", "cal", "information", "behind", "the", "lyrics", "does", "benefit", "the", "structure", "-", "aware", "lyric", "generation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "notice", "that", "the", "musical", "information", "(", "Bar", "&", "Beat", ")", "degrades", "the", "per-", "formance", "of", "the", "framework", "more", "than", "the", "textual", "information", "and", "CCL", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "may", "be", "due", "to", "there", "being", "extra", "position", "embeddings", "for", "input", "data", "in", "MT5", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O" ]

[ "When", "it", "comes", "to", "music", "information", ",", "missing", "Bar", "&", "Beat", "leads", "to", "a", "complete", "loss", "of", "infor-", "mation", ",", "while", "missing", "the", "Seg", "&", "Pos", "only", "partially", "loses", "position", "information", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.2", "Subjective", "Results", "Template", "Construction", "As", "the", "template", "directly", "affects", "the", "Template", "-", "to", "-", "Lyric", "module", ",", "we", "perform", "the", "subjective", "evaluation", "on", "different", "settings", "of", "\"", "Sentence", "Length", "Generation", "\"", "and", "\"", "Beat", "Genera-", "tion", "\"", "in", "Algorithm", "1", "to", "investigate", "the", "impact", "of", "the", "compound", "template", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "\"", "Sentence", "Length", "Generation", "\"", ",", "we", "have", "2", "candidate", "settings", ":", "1", ")", "Random", ",", "the", "length", "of", "the", "sentence", "is", "randomly", "chosen", "from", "6", "to", "12", ";", "2", ")", "2-", "gram", ",", "the", "next", "sentence", "length", "is", "generated", "condi-", "tioned", "on", "the", "length", "of", "the", "previous", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "generate", "40", "songs", "in", "6", "to", "16", "sentences", "for", "each", "setting", "." ]

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O" ]

[ "Given", "two", "number", "sequences", "generated", "by", "\"", "Sentence", "Length", "Generation", "\"", "of", "two", "settings", ",", "the", "two", "Beat", "can", "be", "generated", "by", "the", "same", "method", "of", "\"", "Beat", "Generation", "\"", ",", "whose", "setting", "is", "chosen", "ran-", "domly", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "in", "Table", "3", "show", "that", "Random", "and", "2", "-", "gram", "strategies", "achieve", "comparable", "perfor-", "mance", "and", "different", "sentence", "length", "generation", "strategies", "have", "little", "influence", "on", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "\"", "Beat", "Generation", "\"", ",", "we", "have", "3", "candidate", "set-", "tings", ":", "1", ")", "Random", ",", "the", "beat", "information", "for", "each", "character", "is", "randomly", "chosen", "from", "B", ";", "2", ")", "Rule", ",", "the", "beat", "is", "non", "-", "decreasing", "than", "the", "previous", "one", ";", "3", ")", "Sample", ",", "we", "compute", "the", "statistics", "of", "the", "beat", "se-", "quence", "of", "each", "length", "in", "the", "lyric", "-", "template", "dataset", "and", "sample", "the", "beat", "sequence", "conditioned", "on", "the", "sequence", "length", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "generate", "40", "songs", "in", "6", "to", "16", "sentences", "for", "each", "setting", "(", "\"", "Sentence", "Lengths", "Gen-", "eration", "\"", "uses", "2", "-", "gram", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "result", "in", "Table", "4", "shows989", "Table", "1", ":", "Model", "comparison", "with", "objective", "metrics", "on", "the", "test", "set", "of", "lyric", "-", "template", "dataset", "and", "Song8k", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "B-DatasetName", "O" ]

[ "T", "-", "L", "and", "S8", "stand", "for", "lyric", "-", "template", "dataset", "and", "Song8k", "respectively", "." ]

[ "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "B-DatasetName", "O", "O" ]

[ "CCL", "denotes", "the", "cycle", "-", "consistency", "loss", "in", "Section", "?", "?", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Table", "3", ":", "The", "MOS", "score", "of", "different", "settings", "in", "\"", "Sen-", "tence", "Length", "Generation", "\"", "." ]

[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "adapt", "2", "-", "gram", "for", "\"", "Sentence", "Length", "Generation", "\"", "and", "Sample", "for", "Beat", "Genera-", "tion", "in", "model", "comparison", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "in", "Table", "5", "show", "that", "our", "UniLG", "outperforms", "the", "baselines", ",", "which", "furtherTable", "5", ":", "The", "MOS", "score", "of", "model", "comparison", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O" ]

[ "Table", "1", "and", "5", "prove", "that", "our", "compound", "template", "enables", "a", "stronger", "structure", "modeling", "ability", "than", "SongNet", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "This", "may", "be", "because", "that", "the", "compound", "template", "provides", "discriminative", "representations", "for", "lyrics", "under", "the", "guidance", "of", "musical", "information", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "MT5", "achieves", "better", "PPL", "and", "Integrity", "in", "Table", "1", "but", "gets", "lower", "MOS", "results", "in", "Fluency", "in", "Table", "5", "." ]

[ "O", "B-MethodName", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "indicates", "that", "MT5", "may", "pay", "too", "much", "atten-", "tion", "to", "the", "fluency", "of", "the", "text", "but", "lacking", "the", "logical", "correlation", "between", "sentences", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Case", "Studies", "We", "also", "show", "some", "cases", "in", "Appendix", "H", "to", "verify", "the", "ability", "of", "UniLG", "to", "handle", "different", "genera-", "tion", "conditions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Although", "lyrics", "generated", "condi-", "tioned", "on", "the", "templates", "constructed", "by", "automatic", "method", "Template", "Construction", "are", "less", "satisfying", "(", "cases", "in", "Figure", "5", ")", ",", "the", "handcrafted", "template", "or", "template", "extracted", "by", "other", "resources", "achieves", "sat-", "isfying", "results", "as", "shown", "in", "Figure", "6", "and", "7", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "cases", "demonstrate", "that", "the", "template", "is", "human-990", "understandable", "and", "can", "be", "manipulated", "by", "users", "directly", "as", "in", "Section", "3.1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "in", "Figure", "8", "and", "9", "indicate", "that", "the", "template", "acts", "as", "a", "bridge", "between", "lyrics", "and", "the", "rhythmic", "sources", "(", "e.g.", ",", "au-", "dio", ",", "music", "score", ",", "etc", ".", ")", ",", "which", "enables", "our", "UniLG", "to", "generate", "lyrics", "conditioned", "on", "different", "signals", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "6", "Conclusion", "In", "this", "paper", ",", "we", "propose", "UniLG", ",", "a", "unified", "structure", "-", "aware", "lyric", "generation", "framework", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "With", "our", "designed", "compound", "template", "to", "indicate", "the", "structure", "of", "lyrics", "with", "textual", "and", "musical", "infor-", "mation", ",", "which", "acts", "as", "a", "bridge", "between", "the", "rhyth-", "mic", "sources", "and", "lyrics", ",", "UniLG", "can", "handle", "different", "lyrics", "generation", "conditions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "introduce", "a", "cycle", "-", "consistency", "loss", "to", "enhance", "the", "impact", "of", "musical", "information", "to", "improve", "performance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Ex-", "tensive", "experiments", "demonstrate", "the", "effectiveness", "of", "our", "framework", ",", "achieving", "significant", "improve-", "ment", "in", "both", "objective", "and", "subjective", "evaluations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "will", "explore", "topic", "-", "driven", "lyrics", "generation", "in", "our", "future", "work", "." ]

[ "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O" ]

[ "Limitations", "The", "limitations", "of", "our", "work", "include", ":", "1", ")", "In", "our", "work", ",", "the", "structure", "of", "lyrics", "is", "the", "chorus", "and", "verse", "parts", "of", "songs", ",", "and", "it", "is", "learned", "in", "a", "data", "-", "driven", "man-", "ner", ",", "which", "highly", "relies", "on", "data", "quality", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2", ")", "The", "settings", "of", "the", "Lyric", "-", "to", "-", "Beat", "model", "will", "limit", "the", "effect", "of", "our", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "this", "work", ",", "we", "make", "an", "assumption", "that", "all", "songs", "are", "with", "4", "/", "4", "time", "sig-", "natures", "for", "the", "Lyric", "-", "to", "-", "Beat", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "the", "time", "signature", "is", "not", "4", "/", "4", ",", "we", "need", "to", "re", "-", "train", "the", "Lyric-", "to", "-", "Beat", "model.3", ")", "Better", "”", "Beat", "Construction", "”", "can", "be", "investigated", ",", "such", "as", "using", "a", "language", "model", "to", "generate", "the", "beat", "sequence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "only", "explore", "the", "simple", "method", "and", "achieve", "satisfying", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4", ")", "The", "model", "trained", "from", "scratch", "may", "not", "achieve", "satisfying", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "And", "a", "GPU", "with", "at", "least", "20", "G", "memory", "may", "be", "needed", "to", "use", "the", "pre", "-", "trained", "lan-", "guage", "model", "(", "MT5", ")", "to", "reproduce", "our", "work", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "Ethics", "Statement", "Under", "the", "review", "of", "the", "company", "’s", "legal", "team", ",", "the", "data", "collected", "for", "research", "is", "under", "legally", "cor-", "rect", "copyright", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "artifacts", "we", "used", "(", "e.g.", ",", "MT5", ",", "other", "codes", ",", "etc", ")", "are", "consistent", "with", "their", "intended", "use", "and", "meet", "corresponding", "licenses", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "mother", "tongue", "of", "all", "annotators", "is", "Chinese", "and", "the", "annota-", "tors", "are", "recruited", "by", "the", "human", "resources", "depart-", "ments", "and", "the", "payment", "is", "adequate", "enough", "(", "The", "an", "-", "notators", "receive", "an", "hourly", "wage", "of", "80", "RMB", ",", "about", "12", "USD", ")", "according", "to", "the", "laws", "and", "regulations", "of", "our", "country", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Before", "the", "experiments", ",", "we", "report", "key", "information", "about", "the", "requirements", "for", "human", "an-", "notators", ",", "including", "the", "evaluation", "criteria", "and", "the", "usage", "of", "their", "annotations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "have", "used", "the", "data", "under", "the", "consensus", "of", "the", "industry", "and", "research", "and", "the", "final", "information", "used", "for", "research", "does", "not", "include", "any", "protected", "category", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1002–1017", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "FC", "-", "KBQA", ":", "A", "Fine", "-", "to", "-", "Coarse", "Composition", "Framework", "for", "Knowledge", "Base", "Question", "Answering", "Lingxi", "Zhang1", ",", "Jing", "Zhang1∗", ",", "Yanling", "Wang1", ",", "Shulin", "Cao2", ",", "Xinmei", "Huang1", ",", "Cuiping", "Li1", ",", "Hong", "Chen1", ",", "Juanzi", "Li2", "1School", "of", "Information", ",", "Renmin", "University", "of", "China", ",", "Beijing", ",", "China", "2Department", "of", "Computer", "Science", "and", "Technology", ",", "Tsinghua", "University", ",", "Beijing", ",", "China", "{", "zhanglingxi", ",", "zhang", "-", "jing", ",", "wangyanling", ",", "huangxinmei", ",", "licuiping", ",", "chong", "}", "@", "ruc.edu.cn", "{", "caosl19", "}", "@", "mails.tsinghua.edu.cn", ",", "{", "lijuanzi", "}", "@", "tsinghua.edu.cn", "Abstract", "The", "generalization", "problem", "on", "KBQA", "has", "drawn", "considerable", "attention", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ "Existing", "research", "suffers", "from", "the", "generalization", "issue", "brought", "by", "the", "entanglement", "in", "the", "coarse", "-", "grained", "mod-", "eling", "of", "the", "logical", "expression", ",", "or", "inexecutabil-", "ity", "issues", "due", "to", "the", "fine", "-", "grained", "modeling", "of", "disconnected", "classes", "and", "relations", "in", "real", "KBs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "propose", "a", "Fine", "-", "to", "-", "Coarse", "Compo-", "sition", "framework", "for", "KBQA", "(", "FC", "-", "KBQA", ")", "to", "both", "ensure", "the", "generalization", "ability", "and", "exe-", "cutability", "of", "the", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "main", "idea", "of", "FC", "-", "KBQA", "is", "to", "extract", "relevant", "fine-", "grained", "knowledge", "components", "from", "KB", "and", "reformulate", "them", "into", "middle", "-", "grained", "knowl-", "edge", "pairs", "for", "generating", "the", "final", "logical", "ex-", "pressions", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "FC", "-", "KBQA", "derives", "new", "state", "-", "of", "-", "the-", "art", "performance", "on", "GrailQA", "and", "WebQSP", ",", "and", "runs", "4", "times", "faster", "than", "the", "baseline", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "code", "is", "now", "available", "at", "GitHub", "https", ":", "/", "/", "github", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1", "Introduction", "Question", "answering", "over", "knowledge", "bases", "(", "KBQA", ")", "aims", "to", "provide", "a", "user", "-", "friendly", "way", "to", "access", "large-", "scale", "knowledge", "bases", "(", "KBs", ")", "by", "natural", "language", "questions", "." ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Existing", "KBQA", "methods", "(", "Zhang", "et", "al", ".", ",", "2023", ")", "can", "be", "roughly", "categorized", "into", "retrieval-", "based", "and", "semantic", "-", "parsing", "(", "SP", ")", "based", "methods", "." ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "former", "(", "Feng", "et", "al", ".", ",", "2021", ";", "He", "et", "al", ".", ",", "2021a", ";", "Zhang", "et", "al", ".", ",", "2022", ")", "directly", "scores", "the", "relevance", "between", "the", "question", "and", "answer", "candidates", ",", "thus", "it", "is", "difficult", "to", "resolve", "the", "complex", "questions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "contrary", ",", "some", "KBQA", "approaches", ",", "such", "as", "(", "Das", "et", "al", ".", ",", "2021", ";", "Kapanipathi", "et", "al", ".", ",", "2021", ";", "Qiu", "et", "al", ".", ",", "2020", ";", "Sun", "et", "al", ".", ",", "2020", ")", ",", "are", "based", "on", "semantic", "pars-", "ing", "(", "denoted", "as", "SP", "-", "based", ")", ",", "which", "can", "address", "com-", "plex", "questions", "and", "achieve", "promising", "results", "on", "i.i.d", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "datasets", "." ]

[ "O", "O" ]

[ "SP", "-", "based", "methods", "first", "translate", "the", "questions", "into", "logical", "expressions", "such", "as", "SPARQL", "and", "then", "execute", "them", "against", "KB", "to", "yield", "answers", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "∗Corresponding", "author", "." ]

[ "O", "O", "O" ]

[ "Figure", "1", ":", "Illustration", "of", "generalization", "tasks", "in", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "Each", "question", "is", "paired", "with", "a", "logical", "expression", "that", "consists", "of", "different", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Components", "involved", "in", "the", "training", "data", "are", "colored", "in", "non", "-", "green", "color", ",", "while", "unseen", "components", "are", "colored", "in", "green", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "coarse", "-", "grained", "method", "directly", "matches", "the", "question", "with", "the", "logical", "expression", "(", "i.e.", ",", "the", "composition", "of", "components", ")", ",", "while", "the", "fine", "-", "grained", "method", "matches", "the", "question", "with", "each", "component", "candidate", "and", "then", "composes", "them", "to", "derive", "the", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "exact", "match", "accuracy", "of", "logical", "expressions", "on", "compositional", "generalization", "test", "data", "and", "zero", "-", "shot", "generalization", "test", "data", "is", "shown", "on", "the", "right", "of", "the", "figure", "." ]

[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "illustrated", "in", "Figure", "1", ",", "a", "logical", "expression", "con-", "sists", "of", "multiple", "components", "such", "as", "classes", "and", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Most", "existing", "SP", "-", "based", "approaches", "fail", "with", "logical", "expressions", "that", "contain", "unseen", "compo-", "sitions", "of", "components", "(", "called", "compositional", "gener-", "alization", ")", "or", "unseen", "components", "(", "called", "zero", "-", "shot", "generalization", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O" ]

[ "To", "address", "the", "above", "problem", ",", "GrailQA-", "Rank", "(", "Gu", "et", "al", ".", ",", "2021", ")", "proposes", "a", "BERT", "-", "based", "rank", "model", "to", "match", "the", "given", "question", "with", "each", "logical", "expression", "candidate", ",", "which", "leverages", "the", "generalization", "abilities", "of", "the", "pre", "-", "trained", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "top", "of", "that", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",1002", "2022", ")", "further", "uses", "a", "pre", "-", "trained", "generation", "model", ",", "which", "takes", "top-5", "ranked", "logical", "expressions", "as", "the", "additional", "input", "beyond", "the", "question", "to", "generate", "the", "target", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Behind", "these", "main-", "stream", "models", ",", "a", "logical", "expression", "is", "viewed", "as", "an", "inseparable", "unit", "during", "modeling", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Actually", ",", "logical", "expressions", "are", "coarse", "-", "grained", "because", "they", "can", "be", "decomposed", "into", "relatively", "fine", "-", "grained", "com-", "ponents", "including", "relations", ",", "classes", ",", "entities", ",", "and", "logical", "skeletons", "(", "See", "examples", "in", "Figure", "3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "coarse", "-", "grained", "modeling", "entangles", "representations", "of", "fine", "-", "grained", "components", ",", "thereby", "overfitting", "the", "seen", "compositions", "during", "the", "training", "process", ",", "which", "weakens", "the", "model", "’s", "compositional", "general-", "ization", "ability", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "even", "though", "pre", "-", "trained", "language", "models", "can", "deal", "with", "zero", "-", "shot", "compo-", "nents", "to", "some", "extent", ",", "compositional", "overfit", "reduces", "their", "ability", "to", "identify", "individual", "unseen", "compo-", "nents", "with", "zero", "-", "shot", "generalization", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "demonstrate", "the", "above", "idea", ",", "we", "perform", "a", "pilot", "study", "(", "Cf", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "the", "detailed", "settings", "in", "Section", "4.1", ")", "with", "two", "preliminary", "experiments", ":", "one", "calculates", "the", "similarity", "score", "between", "a", "question", "and", "each", "coarse", "-", "grained", "logical", "expression", "to", "obtain", "the", "most", "relevant", "one", ",", "and", "the", "other", "searches", "the", "most", "relevant", "fine", "-", "grained", "components", "to", "form", "the", "final", "logical", "expression", "of", "a", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "observe", "that", "the", "fine", "-", "grained", "modeling", "derives", "more", "accurate", "logical", "expressions", "on", "both", "the", "compositional", "task", "and", "zero", "-", "shot", "task", "(", "Cf", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O" ]

[ "It", "could", "be", "explained", "that", "fine", "-", "grained", "modeling", "focuses", "ex-", "clusively", "on", "each", "component", ",", "avoiding", "overfitting", "of", "seen", "compositions", "in", "the", "training", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Although", "some", "studies", "attempt", "to", "leverage", "fine", "-", "grained", "com-", "ponents", ",", "they", "only", "consider", "partial", "fine", "-", "grained", "components", "such", "as", "relations", ",", "classes", ",", "and", "entities", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "or", "suffer", "from", "inexecutability", "due", "to", "disconnected", "fine", "-", "grained", "components", "in", "real", "KBs", "(", "Shu", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "to", "both", "ensure", "the", "generalization", "ability", "and", "executability", "of", "logical", "expressions", ",", "we", "pro-", "pose", "a", "Fine", "-", "to-", "Coarse", "composition", "framework", "for", "KBQA", "(", "FC", "-", "KBQA", ")", ",", "which", "contains", "three", "sub-", "modules", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "overview", "of", "our", "model", "is", "shown", "in", "Figure", "4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "first", "module", "is", "fine", "-", "grained", "com-", "ponent", "detection", ",", "which", "detects", "all", "kinds", "of", "fine-", "grained", "component", "candidates", "from", "Freebase", "by", "their", "semantic", "similarities", "with", "the", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "component", "detection", "guarantees", "the", "generalization", "ability", "in", "both", "compositional", "and", "zero", "-", "shot", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "second", "module", "is", "the", "middle", "-", "grained", "compo", "-", "nent", "constraint", ",", "which", "efficiently", "prunes", "and", "com-", "poses", "the", "fine", "-", "grained", "component", "candidates", "by", "en-", "suring", "the", "components", "’", "connectivity", "in", "the", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "final", "module", "is", "the", "coarse", "-", "grained", "component", "com-", "position", ",", "which", "employs", "a", "seq", "-", "to", "-", "seq", "generation", "model", "to", "generate", "the", "executable", "coarse", "-", "grained", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "encode", "the", "fine-", "grained", "components", ",", "the", "middle", "-", "grained", "compo-", "nents", "are", "also", "encoded", "to", "enhance", "the", "model", "’s", "rea-", "soning", "capacity", ",", "so", "as", "to", "improve", "the", "executability", "of", "the", "generated", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "contrast", "to", "previous", "work", "(", "Cao", "et", "al", ".", ",", "2022b", ";", "Chen", "et", "al", ".", ",", "2021", ";", "Shu", "et", "al", ".", ",", "2022", ")", "that", "only", "uses", "the", "knowl-", "edge", "constraints", "to", "guide", "the", "decoding", "process", ",", "we", "emphasize", "injecting", "them", "into", "the", "encoding", "pro-", "cess", ",", "because", "the", "encoder", "which", "learns", "bidirec-", "tional", "context", "could", "better", "suit", "natural", "language", "understanding", "(", "Du", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "conduct", "extensive", "experiments", "on", "widely", "used", "GrailQA", ",", "WebQSP", ",", "and", "CWQ", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O" ]

[ "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", "is", "a", "KBQA", "bench-", "mark", "focusing", "on", "generalization", "problems", "." ]

[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "FC-", "KBQA", "derives", "new", "state", "-", "of", "-", "the", "-", "art", "performance", "on", "GrailQA", "-", "Dev", "(", "+7.6", "%", "F1", "gain", "and", "+7.0", "%", "EM", "gain", "respectively", ")", "." ]

[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "FC", "-", "KBQA", "also", "obtains", "good", "performance", "on", "WebQSP", "and", "CWQ", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O" ]