anlp/annotation2_wo_elimination · Datasets at Hugging Face

sentences sequence	ner_tags sequence
[ "Specially", ",", "GrailQA", "-", "Rank", "has", "no", "composition", "step", ",", "we", "record", "the", "corresponding", "time", "as", "zero", "." ]	[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "class", "-", "relation", "pairs", "and", "relation", "-", "relation", "pairs", "with", "the", "corresponding", "fine", "-", "grained", "candidates", ",", "such", "as", "classes", "and", "relations", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "3", ")", "-Logical", "Skeleton", "gets", "rid", "of", "the", "logical", "skeleton", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "4", ")", "-Decode", "Constraint", "deletes", "the", "dynamic", "vocabulary", "created", "with", "the", "middle", "-", "grained", "components", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "results", "show", "that", "removing", "“", "knowledge", "”", "re-", "duces", "model", "performance", "by", "60", "%", "F1", "score", ",", "and", "replacing", "“", "knowledge", "pairs", "”", "with", "pure", "fine", "-", "grained", "components", "also", "reduces", "model", "performance", "by", "28", "%", "F1", ",", "indicating", "that", "encoding", "the", "middle-", "grained", "components", "can", "significantly", "improve", "the", "model", "’s", "reasoning", "capacity", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "further", "demonstrate", "that", "encoding", "such", "middle", "-", "grained", "components", "can", "also", "help", "improve", "other", "model", "’s", "performance", ",", "we", "create", "Enhanced", "RNG", "-", "KBQA", "by", "taking", "the", "top-10", "ranked", "results", "from", "its", "ranking", "model", "and", "formulat-", "ing", "them", "into", "middle", "-", "grained", "component", "pairs", "to", "be", "injected", "into", "its", "encoder", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "results", "in", "Table", "3", "show", "that", "middle", "-", "grained", "reformulation", "improves", "the", "performance", "of", "RNG", "-", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]
[ "Middle", "-", "grained", "component", "pairs", ",", "like", "coarse", "-", "grained", "logical", "ex-", "pressions", ",", "can", "guarantee", "connectivity", ",", "but", "they", "aremore", "compact", "and", "much", "shorter", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "a", "result", ",", "be-", "cause", "PLMs", "have", "a", "maximum", "input", "length", ",", "the", "middle", "-", "grained", "formulation", "can", "inject", "more", "com-", "ponents", "and", "is", "more", "likely", "to", "cover", "the", "components", "involved", "in", "the", "target", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Removing", "“", "logical", "skeleton", "”", "can", "result", "in", "a", "3.0", "%", "F1", "drop", ",", "indicating", "that", "skeleton", "is", "useful", "for", "guid-", "ing", "the", "question", "understanding", "even", "though", "it", "is", "less", "important", "than", "the", "knowledge", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Removing", "“", "decode", "constraint", "”", "in", "the", "decoder", "can", "also", "have", "an", "effect", "on", "model", "performance", ",", "but", "is", "much", "weaker", "than", "removing", "“", "knowledge", "pairs", "”", "in", "the", "encoder", ",", "indicating", "that", "injecting", "the", "knowl-", "edge", "constraints", "in", "the", "encoding", "process", "is", "more", "useful", "than", "in", "the", "decoding", "process", ",", "because", "the", "en-", "coder", "learns", "the", "bidirectional", "context", ",", "which", "is", "bet-", "ter", "suited", "to", "natural", "language", "understanding", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "is", "also", "a", "significant", "difference", "from", "the", "existing", "knowledge", "constrained", "decoding", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Both", "\"", "Knowledge", "Pairs", "\"", "and", "\"", "Decode", "Con-", "straint", "\"", "are", "proposed", "for", "addressing", "the", "in-", "executability", "issue", ",", "which", "guarantee", "all", "generated", "logical", "expressions", "are", "executable", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Removing", "ei-", "ther", "reduces", "the", "accuracy", ",", "which", "indicates", "that", "high", "executability", "can", "improve", "the", "model", "performance", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "5.4", "Error", "Analysis", "We", "randomly", "select", "50", "error", "cases", "on", "GrailQA", "and", "summarize", "the", "error", "into", "three", "main", "categories", ":", "error", "entity", "(", "60", "%", ")", ",", "error", "relation", "and", "class", "(", "35", "%", ")", ",", "and", "error", "logical", "skeleton", "(", "40", "%", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "also", "analysis", "the", "error", "cases", "while", "our", "model", "fails", "but", "some", "baseline", "methods", "can", "answer", "successfully", "resolve", "them", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "typical", "mistake", "is", "on", "logical", "expressions", "that", "involve", "KB", "-", "specific", "component", "composition", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "in", "Freebase", ",", "“", "coach", "”", "is", "represented", "by", "the", "join", "of", "“", "sports.sports_team.coaches", "”", "and", "“", "sports.sports_team_coach_tenure.coach”.1009", "Our", "fine", "-", "to", "-", "coarse", "model", "only", "predicts", "the", "previous", "relation", "but", "is", "unable", "to", "recall", "“", "sports.sports_team_coach_tenure.coach", "”", ",", "while", "some", "coarse", "-", "grained", "methods", "are", "able", "to", "memorize", "such", "composition", "and", "provide", "the", "correct", "answer", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "6", "Conclusion", "This", "paper", "proposes", "FC", "-", "KBQA", ",", "a", "Fine", "-", "to-", "Coarse", "composition", "framework", "for", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]
[ "The", "core", "idea", "behind", "it", "is", "to", "solve", "the", "entanglement", "issue", "of", "main-", "stream", "coarse", "-", "grained", "modeling", "by", "the", "fine", "-", "grained", "modeling", ",", "and", "further", "improve", "the", "executability", "of", "logical", "expression", "by", "reformulating", "the", "fine-", "grained", "knowledge", "into", "middle", "-", "grained", "knowledge", "pairs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Benefiting", "from", "this", ",", "FC", "-", "KBQA", "achieves", "new", "state", "-", "of", "-", "the", "-", "art", "performance", "and", "efficiency", "on", "the", "compositional", "and", "zero", "-", "shot", "generalization", "KBQA", "tasks", "." ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]
[ "This", "fine", "-", "to", "-", "coarse", "framework", "with", "middle", "-", "grained", "knowledge", "injection", "could", "be", "in-", "spiring", "for", "generalization", "on", "other", "NLP", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "7", "Limitations", "Although", "our", "model", "achieves", "good", "performance", "in", "solving", "the", "compositional", "and", "zero", "-", "shot", "generalization", "problems", ",", "there", "is", "still", "room", "for", "improvement", "on", "the", "i.i.d", "datasets", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "fine", "-", "grained", "module", "in", "our", "framework", "can", "not", "take", "advantage", "of", "explicit", "composition", "infor-", "mation", "when", "the", "component", "compositions", "in", "the", "testing", "set", "and", "training", "set", "significantly", "overlapp", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "in", "Freebase", ",", "\"", "Who", "is", "the", "coach", "of", "FC", "Barcelona", "?", "\"", "is", "answered", "by", "the", "join", "of", "relation", "“", "sports.sports_team.coaches", "”", "and", "“", "sports.sports_team_coach_tenure.coach", "”", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Our", "fine", "-", "grained", "extractor", "may", "fail", "to", "recall", "“", "sports.sports_team_coach_tenure.coach", "”", "and", "in-", "stead", "select", "“", "base.american_football.football_coac", "-h.coach", "”", "as", "the", "candidate", "since", "‘", "football", "coach", "”", "is", "more", "relevant", "to", "the", "question", "than", "“", "coach", "tenure", "”", "in", "semantics", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "only", "coarse", "-", "grained", "model", ",", "however", ",", "can", "directly", "memorize", "the", "pattern", "because", "such", "composition", "appears", "frequently", "in", "the", "training", "data", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "compared", "to", "conventional", "models", "that", "completely", "memorize", "composition", "patterns", ",", "our", "model", "may", "only", "have", "minor", "advantages", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Another", "limitation", "is", "that", "we", "can", "not", "guar-", "antee", "the", "generalization", "on", "other", "KBs", "such", "as", "WikiData", "because", "gaps", "between", "KBs", "may", "bring", "negative", "impact", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "rela-", "tions", "in", "Freebase", "are", "often", "more", "specific", "(", "ice_hockey.hockey_player.hockey_position", ",", "soccer.football_player.position_s", ")", ",", "while", "re-", "lations", "in", "Wikidata", "are", "more", "general", "(", "posi-", "tion_played_on_team", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "consider", "it", "as", "a", "direction", "for", "our", "future", "work", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "8", "Ethics", "Statement", "This", "work", "focuses", "on", "the", "generalization", "issue", "of", "knowledge", "base", "question", "answering", ",", "and", "the", "con-", "tribution", "is", "fully", "methodological", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Hence", ",", "there", "are", "no", "direct", "negative", "social", "impacts", "of", "this", "work", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "experiments", ",", "this", "work", "uses", "open", "datasets", "that", "have", "been", "widely", "used", "in", "previous", "work", "and", "are", "without", "sensitive", "information", "as", "we", "know", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "authors", "of", "this", "work", "follow", "the", "ACL", "Code", "of", "Ethics", "and", "the", "application", "of", "this", "work", "have", "no", "obvious", "issue", "that", "may", "lead", "to", "the", "risk", "of", "ethics", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1018–1032", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Does", "GPT-3", "Grasp", "Metaphors", "?", "Identifying", "Metaphor", "Mappings", "with", "Generative", "Language", "ModelsLennart", "WachowiakKing", "’s", "College", "Londonlennart.wachowiak", "@", "gmail.comDagmar", "GromannUniversity", "of", "Viennadagmar.gromann", "@", "gmail.comAbstractConceptual", "metaphors", "present", "a", "powerful", "cog", "-", "nitive", "vehicle", "to", "transfer", "knowledge", "structuresfrom", "a", "source", "to", "a", "target", "domain", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Prior", "neuralapproaches", "focus", "on", "detecting", "whether", "natu", "-", "ral", "language", "sequences", "are", "metaphoric", "or", "lit", "-", "eral", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "believe", "that", "to", "truly", "probe", "metaphoricknowledge", "in", "pre", "-", "trained", "language", "models", ",", "their", "capability", "to", "detect", "this", "transfer", "should", "beinvestigated", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "this", "end", ",", "this", "paper", "proposes", "toprobe", "the", "ability", "of", "GPT-3", "to", "detect", "metaphoriclanguage", "and", "predict", "the", "metaphor", "’s", "source", "do", "-", "main", "without", "any", "pre", "-", "set", "domains", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "experi", "-", "ment", "with", "different", "training", "sample", "conﬁgura", "-", "tions", "for", "ﬁne", "-", "tuning", "and", "few", "-", "shot", "prompting", "ontwo", "distinct", "datasets", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "When", "provided", "12", "few", "-", "shot", "samples", "in", "the", "prompt", ",", "GPT-3", "generatesthe", "correct", "source", "domain", "for", "a", "new", "samplewith", "an", "accuracy", "of", "65.15", "%", "in", "English", "and34.65", "%", "in", "Spanish", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O" ]
[ "GPT", "’s", "most", "common", "er", "-", "ror", "is", "a", "hallucinated", "source", "domain", "for", "whichno", "indicator", "is", "present", "in", "the", "sentence", "." ]	[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Othercommon", "errors", "include", "identifying", "a", "sequenceas", "literal", "even", "though", "a", "metaphor", "is", "presentand", "predicting", "the", "wrong", "source", "domain", "basedon", "speciﬁc", "words", "in", "the", "sequence", "that", "are", "notmetaphorically", "related", "to", "the", "target", "domain.1", "IntroductionMetaphor", "processing", "with", "pre", "-", "trained", "languagemodels", "(", "e.g.", "Conneau", "et", "al", ".", ",2020", ";", "Brown", "et", "al", ".", ",2020", ")", "has", "been", "dominated", "by", "metaphor", "detec", "-", "tion", ",", "that", "is", ",", "the", "classiﬁcation", "of", "expressions", "intometaphoric", "or", "literal", "(", "e.g.", "Aghazadeh", "et", "al", ".", ",2022", ";", "Leong", "et", "al", ".", ",2020", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "metaphor", "interpretation", ",", "acommon", "approach", "is", "to", "paraphrase", "metaphoric", "ex", "-", "pressions", "into", "literal", "ones", "(", "e.g.", "Stowe", "et", "al", ".", ",2021a", ")", ".Few", "approaches", "target", "metaphor", "identiﬁcation", ",", "e.g.predicting", "the", "source", "domain", "of", "a", "metaphor", "in", "a", "lin", "-", "guistic", "sequence", "." ]	[ "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "instance", ",", "Rosen", "(", "2018", ")", "relieson", "grammatical", "constructs", "and", "pre", "-", "deﬁned", "labels", ".", "Instead", ",", "in", "this", "paper", ",", "we", "test", "a", "generative", "languagemodel", "’s", "ability", "to", "predict", "the", "source", "domain", "givena", "target", "domain", "and", "sequence", "without", "grammaticalassumptions", "or", "ﬁxed", "source", "domain", "labels", ".", "Conceptual", "metaphor", "theory", "(", "CMT", ")", "(", "Lakoff", "andJohnson,1980", ")", "starts", "from", "the", "assumption", "thatmetaphors", "represent", "a", "powerful", "cognitive", "mech", "-", "anism", "to", "transfer", "physical", "knowledge", "structures", "toabstract", "domains", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "natural", "language", ",", "He", "wasbombarded", "by", "insultsorYour", "words", "pierce", "myhearttransfers", "the", "concrete", "domain", "of", "weaponsto", "the", "abstract", "domain", "of", "words", "in", "the", "metaphorWORDS", "ARE", "WEAPONS", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "On", "the", "assumption", "thatour", "cognitive", "organization", "relies", "on", "metaphors", ",", "au", "-", "tomatically", "identifying", "metaphoric", "transfer", "holdsthe", "promise", "of", "contributing", "to", "more", "human", "-", "likecomputational", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "From", "the", "overall", "success", "ofpre", "-", "trained", "language", "models", "in", "metaphor", "detection", ",", "a", "certain", "degree", "of", "metaphoric", "knowledge", "in", "thesemodels", "can", "be", "assumed", "(", "Aghazadeh", "et", "al", ".", ",2022", ")", ".This", "paper", "aims", "to", "evaluate", "whether", "this", "inherentknowledge", "extends", "beyond", "contextual", "clues", "to", "pre", "-", "dict", "the", "concrete", "domains", "in", "the", "metaphoric", "trans", "-", "fer", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Detecting", "a", "metaphor", "entails", "contrasting", "thephysical", "with", "the", "abstract", "meaning", "of", "a", "sequence", ".", "However", ",", "the", "source", "domain", "is", "frequently", "a", "non", "-", "contextual", "attribute", "(", "Aghazadeh", "et", "al", ".", ",2022", ")", ",", "whilethe", "target", "domain", "can", "be", "found", "directly", "using", "con", "-", "textual", "clues", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "instance", ",", "in", "the", "above", "example", ",", "pierceis", "more", "implicitly", "related", "to", "WEAPONSthan", "the", "explicitwordsis", "to", "WORDS", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "deter", "-", "mine", "the", "accuracy", "of", "the", "predicted", "source", "domainsfrom", "ﬁne", "-", "tuning", "and", "few", "-", "shot", "prompting", "GPT-3", "(", "Brown", "et", "al", ".", ",2020", ")", ",", "we", "manually", "evaluate", "the", "re", "-", "sults", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "this", "end", ",", "we", "propose", "a", "classiﬁcation", "oferror", "types", "from", "too", "generic", "domains", "to", "relyingon", "words", "in", "the", "sentence", "that", "are", "not", "connected", "tothe", "metaphor", ",", "which", "we", "call", "trigger", "words", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Thisprovides", "further", "intuition", "on", "the", "nature", "and", "extentof", "metaphoric", "knowledge", "encoded", "in", "pre", "-", "trainedlanguage", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "compare", "methods", "to", "elicitmetaphoric", "knowledge", "without", "any", "assumptionson", "grammar", "or", "source", "domains", "and", "test", "if", "it", "ex-1018", "tends", "across", "languages", ",", "i.e.", ",", "Spanish", "in", "addition", "toEnglish", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Finally", ",", "we", "evaluate", "its", "generalization", "bytesting", "on", "two", "distinct", "datasets", "and", "a", "set", "of", "non", "-", "metaphoric", "sentences.2", "PreliminariesTwo", "major", "pillars", "that", "build", "the", "foundation", "for", "thisapproach", "are", "conceptual", "metaphors", "and", "generativelanguage", "models", ",", "which", "we", "brieﬂy", "introduce", "here.2.1", "Conceptual", "MetaphorsThe", "idea", "of", "metaphoric", "projection", "from", "a", "physi", "-", "cal", "source", "domain", "to", "an", "abstract", "target", "domain", "isdeeply", "rooted", "in", "the", "tradition", "of", "embodied", "cogni", "-", "tion", ",", "which", "assumes", "that", "higher", "-", "level", "cognition", "isshaped", "by", "physical", "experiences", "(", "Barsalou,1999", ")", ".For", "instance", ",", "actual", "physical", "movement", "recruitssimilar", "areas", "in", "the", "brain", "as", "communicating", "withaction", "verbs", "(", "Durand", "et", "al", ".", ",2018", ";", "Gibbs,2006", ")", ".Conceptual", "metaphors", "are", "deeply", "entrenched", "inour", "knowledge", "organization", "system", "and", "utilized", "ineveryday", "communication", "to", "convey", "thoughts", "moreprecisely", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "a", "large", "-", "scale", "study", ",", "Prabhakaran", "et", "al.", "(", "2021", ")", "evaluate", "the", "persuasiveness", "of", "metaphorsand", "show", "that", "metaphoricity", "in", "political", "posts", "in", "-", "creases", "social", "media", "engagement", ".", "Citron", "and", "Gold", "-", "berg", "(", "2014", ")", "show", "that", "metaphoric", "emotional", "lan", "-", "guage", "elicits", "a", "higher", "emotional", "response", "by", "recip", "-", "ients", "than", "literal", "use", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "provide", "complex", "analy", "-", "ses", "of", "metaphoricity", "in", "language", "and", "analyze", "themetaphoric", "knowledge", "of", "generative", "language", "mod", "-", "els", ",", "we", "believe", "that", "identifying", "concrete", "metaphoricprojections", "in", "natural", "language", "is", "required.2.2", "Generative", "Language", "ModelsLarge", "generative", "language", "models", "are", "trained", "withthe", "objective", "of", "predicting", "the", "next", "token", "in", "a", "se", "-", "quence", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "During", "inference", ",", "this", "allows", "them", "to", "beprompted", "with", "some", "text", "by", "a", "user", "and", "then", "gen", "-", "erate", "what", "they", "predict", "to", "be", "most", "likely", "to", "comenext", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Scaled", "to", "large", "training", "corpora", "based", "onweb", "-", "data", "and", "multi", "-", "billion", "parameter", "architectures", ",", "this", "simple", "objective", "resulted", "in", "models", "such", "asGPT-3", "(", "Brown", "et", "al", ".", ",2020", ")", "or", "its", "open", "-", "source", "vari", "-", "ants", "BLOOM", "(", "Luccioni", "et", "al", ".", ",2022", ")", "and", "OPT-175", "(", "Zhang", "et", "al", ".", ",2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "a", "speciﬁc", "task", ",", "thesemodels", "can", "be", "used", "either", "in", "a", "zero", "-", "shot", ",", "few", "-", "shot", ",", "or", "ﬁne", "-", "tuning", "manner", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "zero", "-", "shot", "text", "comple", "-", "tion", ",", "the", "model", "is", "prompted", "with", "an", "instance", "ofa", "task", "without", "being", "provided", "any", "example", "solu", "-", "tion", "of", "other", "task", "instances", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "comparison", ",", "forfew", "-", "shot", "completions", ",", "the", "prompt", "already", "containssome", "samples", "of", "the", "task", "and", "the", "respective", "solu", "-", "tions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "both", "variants", ",", "the", "model", "weights", "are", "notchanged", "anymore", ",", "only", "the", "prompt", "differs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "con", "-", "trast", ",", "when", "ﬁne", "-", "tuning", "the", "model", ",", "its", "weights", "areoptimized", "to", "predict", "the", "task", "-", "speciﬁc", "output", "givensome", "input", "/", "output", "task", "samples.3", "Related", "WorkTong", "et", "al.", "(", "2021", ")", "provide", "a", "recent", "overview", "ofarchitectures", "used", "for", "metaphor", "detection", ",", "avail", "-", "able", "datasets", ",", "and", "further", "metaphor", "-", "related", "tasks", ".", "An", "overview", "byRai", "and", "Chakraverty", "(", "2020", ")", "takes", "many", "different", "approaches", "to", "computationalmetaphor", "processing", "into", "account", ",", "additionally", "re-ﬂecting", "on", "the", "different", "theoretical", "and", "linguisticviews", "on", "the", "deﬁnition", "of", "metaphors", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "While", "thereare", "many", "metaphor", "-", "related", "tasks", ",", "the", "closest", "to", "oursare", "presented", "in", "the", "sections", "on", "paraphrasing", "andconnecting", "source", "and", "target", "domains", ".", "Detection", ".", "Metaphor", "detection", ",", "the", "simplest", "formof", "computational", "metaphor", "processing", ",", "is", "a", "binaryclassiﬁcation", "task", "in", "which", "each", "word", "of", "a", "sentenceis", "labeled", "as", "being", "used", "metaphorically", "or", "literally", ".", "In", "a", "2020", "shared", "task", "on", "metaphor", "detection", ",", "ﬁne", "-", "tuning", "pre", "-", "trained", "language", "models", "led", "to", "the", "bestresults", "(", "Leong", "et", "al", ".", ",2020", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "achieve", "small", "im", "-", "provements", "in", "accuracy", ",", "different", "approaches", "en", "-", "rich", "the", "model", "input", "by", ",", "for", "instance", ",", "providingdictionary", "deﬁnitions", "of", "the", "words", "being", "classiﬁed", "(", "Babieno", "et", "al", ".", ",2022", ")", "or", "concreteness", "measuresthat", "indicate", "to", "what", "extent", "something", "can", "be", "ex", "-", "perienced", "via", "the", "senses", "(", "Brysbaert", "et", "al", ".", ",2014", ")", ".Commonly", "used", "datasets", "for", "this", "task", "are", "the", "VUAmsterdam", "Metaphor", "(", "VUA", ")", "Corpus", "(", "Steen", "et", "al", ".", ",2010", ")", "and", "the", "TOEFL", "corpus", "(", "Klebanov", "et", "al", ".", ",2018", ")", ",", "both", "human", "-", "annotated", "based", "on", "differentprotocols", ".", "Model", "Insights", ".", "Other", "research", "explores", "the", "em", "-", "beddings", "generated", "by", "language", "models", "and", "howthey", "relate", "to", "metaphoricity", ".", "Pedinotti", "et", "al.", "(", "2021", ")", "show", "that", "BERT", "’s", "likelihood", "scores", "show", "a", "de", "-", "creasing", "likelihood", "from", "literal", "sentences", "to", "con", "-", "ventional", "and", "novel", "metaphors", "and", ",", "lastly", ",", "to", "non", "-", "sense", "sentences", ";", "thus", ",", "BERT", "’s", "scores", "correlate", "withhuman", "-", "annotated", "plausibility", "scores", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Moreover", ",", "for", "different", "layers", ",", "they", "explore", "cosine", "similari", "-", "ties", "between", "words", "used", "metaphorically", ",", "e.g.", ",", "theﬂowersnoddedin", "the", "wind", ",", "and", "their", "metaphori", "-", "cal", "paraphrases", "and", "literal", "synonyms", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Similarly,1019", "Aghazadeh", "et", "al.", "(", "2022", ")", "investigate", "which", "layersof", "different", "language", "models", "encode", "metaphoricknowledge", "across", "different", "languages", "and", "datasetsvia", "probing", ".", "Paraphrasing", ".", "One", "common", "approach", "tometaphor", "interpretation", "is", "paraphrasing", "themetaphorical", "expression", "using", "only", "literal", "words", ".", "For", "example", ",", "the", "phraseto", "devour", "a", "novelcouldbe", "rephrased", "asto", "enjoy", "a", "novel", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "An", "exampleof", "metaphor", "interpretation", "is", "the", "work", "byMaoet", "al.", "(", "2018", ")", ",", "who", "propose", "to", "query", "WordNetfor", "possible", "candidate", "translations", ",", "from", "whichthe", "best", "is", "selected", "based", "on", "similarities", "in", "theembedding", "space", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "On", "the", "other", "hand", ",", "there", "is", "alsoresearch", "on", "generating", "metaphoric", "paraphrasesgiven", "a", "literal", "sentence", "as", "input", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recent", "work", "inmetaphoric", "paraphrasing", "uses", "text", "-", "to", "-", "text", "models", ",", "such", "as", "T5", "or", "BART", "(", "Stowe", "et", "al", ".", ",2021b", ",", "a", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Mostrecently", ",", "Liu", "et", "al.", "(", "2022", ")", "proposed", "a", "new", "task", "forwhich", "they", "created", "a", "dataset", "of", "novel", "metaphorsin", "the", "form", "of", "similes", ",", "for", "exampleThe", "meteorwas", "as", "bright", "as", "(", "New", "York", "City", "\|", "coal", ")", ",", "whichthe", "language", "model", "has", "then", "to", "interpret", "asverybrightornot", "bright", "at", "all", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "ﬁne", "-", "tuned", "RoBERTamodel", "outperforms", "various", "GPT", "variants", "on", "thetask", "and", "comes", "close", "to", "human", "performance", "." ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Theauthors", "also", "show", "that", "the", "reverse", "of", "the", "tasks", ",", "i.e.", ",", "predicting", "the", "metaphoric", "language", "given", "theliteral", "answer", ",", "is", "more", "difﬁcult", ".", "Connecting", "Source", "and", "Target", "Domains", ".", "Try", "-", "ing", "to", "automate", "the", "process", "of", "identifying", "metaphormappings", "is", "not", "a", "new", "endeavor", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "instance", ",", "given", "manually", "collected", "metaphoric", "phrases", "of", "aspeciﬁc", "target", "domain", ",", "Chung", "et", "al.", "(", "2004", ")", "proposeto", "facilitate", "the", "identiﬁcation", "of", "source", "domains", "byquerying", "WordNet", "senses", "and", "the", "ontology", "SUMO.More", "recent", "research", "makes", "use", "of", "syntactical", "pat", "-", "terns", "metaphoric", "language", "often", "occurs", "in", "(", "Sullivan,2013", ")", ",", "thereby", "narrowing", "down", "the", "pool", "of", "sen", "-", "tences", "considered", "as", "metaphoric", "candidates", ".", "Dodgeet", "al.", "(", "2015", ")", "use", "such", "patterns", "to", "ﬁnd", "metaphorcandidates", "that", "are", "further", "analyzed", "by", "identifyingevoked", "frames", "and", "checking", "for", "whether", "the", "framesrelate", "in", "MetaNet", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "a", "target", "domain", "and", "a", "cor", "-", "pus", ",", "they", "can", "use", "this", "system", "to", "see", "which", "sourcedomains", "are", "frequently", "used", "to", "metaphorically", "talkabout", "a", "target", "domain", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "system", ",", "however", ",", "islimited", "by", "existing", "frame", "resources", "and", "relies", "onpre", "-", "deﬁned", "grammatical", "structures", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Also", "queryingan", "existing", "database", ",", "Ge", "et", "al.", "(", "2022", ")", "use", "hypernymrelations", "from", "WordNet", "to", "identify", "the", "source", "andtarget", "domains", "for", "pairs", "of", "literally", "used", "nouns", "andliterally", "or", "metaphorically", "used", "verbs", "or", "adjectives", ".", "While", "the", "target", "domain", "identiﬁcation", "reaches", "anaccuracy", "of", "87.3", "%", ",", "the", "source", "domain", "identiﬁca", "-", "tion", "only", "reaches", "67.3", "%", "based", "on", "the", "manual", "eval", "-", "uation", "of", "a", "small", "subset", "of", "the", "data", ".", "Shutova", "et", "al.", "(", "2017", ")", "explore", "unsupervised", "methods", "for", "identify", "-", "ing", "clusters", "of", "source", "and", "target", "concepts", "as", "wellas", "the", "connections", "between", "them", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "They", "limit", "theirapproach", "to", "verb", "–", "noun", "constructions", ",", "from", "whichthe", "verbs", "constitute", "the", "source", "domain", "clusters", "andthe", "nouns", "the", "target", "domain", "clusters", ".", "Mohler", "et", "al.", "(", "2016", ")", "provide", "a", "dataset", "withsentences", "from", "government", "discourse", "annotatedwith", "scores", "from", "-1", "to", "3", "to", "indicate", "the", "level", "ofmetaphoricity", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "More", "importantly", ",", "7,941", "sentencesare", "annotated", "for", "source", "–", "target", "domain", "mappingswith", "108", "different", "source", "domains", ".", "Rosen", "(", "2018", ")", "uses", "this", "dataset", "to", "build", "a", "model", "to", "predict", "thesource", "domain", "of", "a", "metaphor", "given", "a", "contextualsentence", "and", "a", "target", "domain", "referent", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Comparedto", "our", "approach", ",", "this", "work", "presupposes", "that", "a", "givensentence", "is", "metaphoric", "while", "also", "depending", "onspeciﬁc", "grammatical", "dependencies", "when", "construct", "-", "ing", "the", "model", "input", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Most", "importantly", ",", "it", "is", "limitedto", "the", "77", "labels", "sub", "-", "sampled", "from", "the", "overall", "avail", "-", "able", "108", "domains", "as", "experiments", "are", "done", "usingfeed", "-", "forward", "neural", "networks", "and", "LSTMs", "insteadof", "text", "-", "to", "-", "text", "networks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Rosen", "also", "shows", "that", "theinter", "-", "annotator", "agreement", "for", "the", "original", "sourcedomain", "annotations", "is", "rather", "low", "with", "a", "Cohen’skappa", "of", "0.544", ",", "which", "indicates", "the", "difﬁculty", "andpotential", "ambiguity", "of", "the", "task", ".", "In", "contrast", "to", "the", "existing", "work", "on", "computationalextraction", "of", "source", "and", "target", "domains", ",", "our", "ap", "-", "proach", "does", "not", "rely", "on", "any", "assumptions", "aboutgrammatical", "structure", "or", "word", "types", "that", "suppos", "-", "edly", "indicate", "metaphorical", "language", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Moreover", ",", "we", "are", "not", "limited", "to", "a", "pre", "-", "deﬁned", "set", "of", "source", "ortarget", "domains", "due", "to", "the", "text", "-", "to", "-", "text", "approach.4", "Method4.1", "TaskIn", "our", "experiments", ",", "we", "use", "GPT-3", "to", "predict", "ametaphor", "’s", "source", "domain", "given", "a", "sentence", "anda", "target", "domain", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "a", "prompt", "to", "identifythe", "conceptual", "metaphor", "underlying", "the", "sentenceYou", "are", "wasting", "my", "timecould", "look", "like", "this", ":", "Extract", "the", "conceptual", "metaphor", "from", "thefollowing", "sentence", ":", "1020", "Sentence", ":", "Our", "relationship", "is", "atcrossroadsTarget", "Domain", ":", "RelationshipSource", "Domain", ":", "JourneySentence", ":", "You", "are", "wasting", "m", "y", "timeTarget", "Domain", ":", "TimeSource", "Domain", ":", "<", "<", "model", "completion", ">", ">", "In", "this", "prompt", ",", "the", "model", "is", "provided", "with", "oneexample", "of", "a", "metaphor", "mapping", ",", "which", "is", "RE", "-", "LATIONSHIP", "IS", "A", "JOURNEY", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Afterwards", ",", "it", "isprovided", "with", "the", "sentence", "and", "target", "domain", "forwhich", "we", "want", "to", "know", "the", "source", "domain", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "cor", "-", "rect", "prediction", ",", "in", "this", "case", ",", "would", "be", "TIME", "ISMONEY", "or", "TIME", "IS", "A", "RESOURCE.4.2", "DatasetThe", "main", "dataset", "was", "gathered", "by", "retrieving", "allnatural", "language", "examples", "annotated", "with", "sourceand", "target", "domain", "from", "Lakoff", "’s", "Master", "MetaphorList1", ",", "called", "Metaphor", "List", "in", "the", "following", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ "Forthis", "task", ",", "we", "randomly", "selected", "446", "sentences", ",", "witha", "maximum", "of", "three", "per", "metaphor", ",", "i.e.", ",", "per", "uniquecombination", "of", "source", "and", "target", "domain", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "en", "-", "sure", "that", "the", "model", "does", "not", "simply", "assume", "all", "sen", "-", "tences", "to", "be", "metaphoric", ",", "we", "use", "non", "-", "metaphoricEnglish", "sentences", "from", "the", "VUA", "corpus", "(", "Steenet", "al", ".", ",2010", ")", "by", "extracting", "sentences", "for", "which", "eachword", "is", "labeled", "as", "literal", "by", "the", "annotators", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "in", "-", "stance", ",", "He", "did", "not", "even", "see", "an", "English", "newspaperis", "an", "example", "of", "a", "non", "-", "metaphoric", "sentence", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Fromthe", "extracted", "non", "-", "metaphoric", "sentences", ",", "we", "manu", "-", "ally", "chose", "50", "to", "be", "added", "to", "our", "dataset", "as", "many", "ofthe", "sentences", "were", "wrongly", "labeled", "or", "extremelyshort", ".", "The", "resulting", "dataset", "is", "split", "into", "a", "train", ",", "vali", "-", "dation", ",", "and", "test", "set", "detailed", "in", "Table1", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "uniquecombination", "of", "source", "and", "target", "domain", ",", "for", "ex", "-", "ample", ",", "BELIEFS", "(", "target", ")", "ARE", "PLANTS", "(", "source", ")", ",", "does", "not", "appear", "in", "the", "validation", "or", "test", "set", "if", "italready", "appeared", "in", "the", "training", "set", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "allowsus", "to", "test", "whether", "the", "model", "can", "generalize", "to", "new", ",", "unseen", "metaphors", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "the", "Metaphor", "List", "data", "onlycontains", "a", "limited", "number", "of", "domain", "combinations", ",", "the", "validation", "and", "test", "set", "contain", "the", "same", "com", "-", "binations", "of", "source", "and", "target", "domains", ",", "however", ",", "with", "different", "unique", "sentences", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Entirely", "new", "do", "-", "main", "combinations", "in", "the", "test", "set", "are", "evaluated", "viasentences", "from", "additional", "datasets", ".", "To", "test", "the", "ability", "to", "generalize", "across", "datasets,1http", ":", "/", "/", "www.lang.osaka", "-", "u.ac.jp", "/", "~sugimoto", "/", "MasterMetaphorList", "/", "metaphors", "/", "index.htmlcopyright", "(", "c", ")", "1994", "by", "George", "Lakoff", ",", "University", "ofCalifornia", ",", "Berkeleywe", "use", "sentences", "from", "the", "LCC", "dataset", "(", "Mohleret", "al", ".", ",2016", ")", "(", "CC", "BY", "-", "NC", "-", "SA", "v4.0", ")", ",", "where", "we", "usethe", "provided", "source", "and", "target", "domains", "and", "theraw", "sentences", "without", "indication", "of", "the", "precisemetaphor", "location", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "From", "the", "English", "and", "Span", "-", "ish", "sentences", ",", "we", "use", "a", "subset", "of", "maximally", "10sentences", "per", "target", "domain", ",", "resulting", "in", "a", "set", "of284", "(", "EN", ")", "and", "110", "(", "ES", ")", "sentences", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "comparisonto", "the", "Metaphor", "List", "samples", ",", "the", "LCC", "dataset", "con", "-", "sists", "of", "much", "longer", "sentences", "using", "complicated", ",", "expert", "language", "from", "the", "political", "domain", ".", "All", "multilingual", "samples", ",", "as", "well", "as", "sentencesfrom", "the", "LCC", "corpus", ",", "are", "solely", "used", "as", "hold", "-", "outtest", "set", "and", "do", "not", "play", "a", "role", "in", "the", "model", "andprompt", "selection", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "These", "sentences", ",", "thus", ",", "test", "the", "model", "’s", "generalization", "ability", "to", "new", "sourcedomains", ",", "a", "different", "language", ",", "i.e.", ",", "Spanish", ",", "andmore", "complex", "sentences", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Model", "and", "prompt", "se", "-", "lection", "is", "based", "on", "the", "validation", "set", "created", "fromthe", "Metaphor", "List", "samples", "and", "the", "non", "-", "metaphoricVUA", "sentences", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O" ]
[ "The", "number", "of", "samples", "from", "thetraining", "set", "that", "are", "actually", "used", "depends", "on", "theprompting", "type.4.3", "Experiments", "and", "EvaluationUsing", "two", "automated", "evaluation", "metrics", "(", "Sec.4.3.1", ")", ",", "we", "compare", "few", "-", "shot", "prompts", "and", "ﬁne", "-", "tuned", "models", "on", "the", "validation", "set", "(", "Sec.4.3.2", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specially", ",", "GrailQA", "-", "Rank", "has", "no", "composition", "step", ",", "we", "record", "the", "corresponding", "time", "as", "zero", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "class", "-", "relation", "pairs", "and", "relation", "-", "relation", "pairs", "with", "the", "corresponding", "fine", "-", "grained", "candidates", ",", "such", "as", "classes", "and", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "3", ")", "-Logical", "Skeleton", "gets", "rid", "of", "the", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "4", ")", "-Decode", "Constraint", "deletes", "the", "dynamic", "vocabulary", "created", "with", "the", "middle", "-", "grained", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "show", "that", "removing", "“", "knowledge", "”", "re-", "duces", "model", "performance", "by", "60", "%", "F1", "score", ",", "and", "replacing", "“", "knowledge", "pairs", "”", "with", "pure", "fine", "-", "grained", "components", "also", "reduces", "model", "performance", "by", "28", "%", "F1", ",", "indicating", "that", "encoding", "the", "middle-", "grained", "components", "can", "significantly", "improve", "the", "model", "’s", "reasoning", "capacity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "further", "demonstrate", "that", "encoding", "such", "middle", "-", "grained", "components", "can", "also", "help", "improve", "other", "model", "’s", "performance", ",", "we", "create", "Enhanced", "RNG", "-", "KBQA", "by", "taking", "the", "top-10", "ranked", "results", "from", "its", "ranking", "model", "and", "formulat-", "ing", "them", "into", "middle", "-", "grained", "component", "pairs", "to", "be", "injected", "into", "its", "encoder", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "in", "Table", "3", "show", "that", "middle", "-", "grained", "reformulation", "improves", "the", "performance", "of", "RNG", "-", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]

[ "Middle", "-", "grained", "component", "pairs", ",", "like", "coarse", "-", "grained", "logical", "ex-", "pressions", ",", "can", "guarantee", "connectivity", ",", "but", "they", "aremore", "compact", "and", "much", "shorter", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "result", ",", "be-", "cause", "PLMs", "have", "a", "maximum", "input", "length", ",", "the", "middle", "-", "grained", "formulation", "can", "inject", "more", "com-", "ponents", "and", "is", "more", "likely", "to", "cover", "the", "components", "involved", "in", "the", "target", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Removing", "“", "logical", "skeleton", "”", "can", "result", "in", "a", "3.0", "%", "F1", "drop", ",", "indicating", "that", "skeleton", "is", "useful", "for", "guid-", "ing", "the", "question", "understanding", "even", "though", "it", "is", "less", "important", "than", "the", "knowledge", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Removing", "“", "decode", "constraint", "”", "in", "the", "decoder", "can", "also", "have", "an", "effect", "on", "model", "performance", ",", "but", "is", "much", "weaker", "than", "removing", "“", "knowledge", "pairs", "”", "in", "the", "encoder", ",", "indicating", "that", "injecting", "the", "knowl-", "edge", "constraints", "in", "the", "encoding", "process", "is", "more", "useful", "than", "in", "the", "decoding", "process", ",", "because", "the", "en-", "coder", "learns", "the", "bidirectional", "context", ",", "which", "is", "bet-", "ter", "suited", "to", "natural", "language", "understanding", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "is", "also", "a", "significant", "difference", "from", "the", "existing", "knowledge", "constrained", "decoding", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Both", "\"", "Knowledge", "Pairs", "\"", "and", "\"", "Decode", "Con-", "straint", "\"", "are", "proposed", "for", "addressing", "the", "in-", "executability", "issue", ",", "which", "guarantee", "all", "generated", "logical", "expressions", "are", "executable", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Removing", "ei-", "ther", "reduces", "the", "accuracy", ",", "which", "indicates", "that", "high", "executability", "can", "improve", "the", "model", "performance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.4", "Error", "Analysis", "We", "randomly", "select", "50", "error", "cases", "on", "GrailQA", "and", "summarize", "the", "error", "into", "three", "main", "categories", ":", "error", "entity", "(", "60", "%", ")", ",", "error", "relation", "and", "class", "(", "35", "%", ")", ",", "and", "error", "logical", "skeleton", "(", "40", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "analysis", "the", "error", "cases", "while", "our", "model", "fails", "but", "some", "baseline", "methods", "can", "answer", "successfully", "resolve", "them", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "typical", "mistake", "is", "on", "logical", "expressions", "that", "involve", "KB", "-", "specific", "component", "composition", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "in", "Freebase", ",", "“", "coach", "”", "is", "represented", "by", "the", "join", "of", "“", "sports.sports_team.coaches", "”", "and", "“", "sports.sports_team_coach_tenure.coach”.1009", "Our", "fine", "-", "to", "-", "coarse", "model", "only", "predicts", "the", "previous", "relation", "but", "is", "unable", "to", "recall", "“", "sports.sports_team_coach_tenure.coach", "”", ",", "while", "some", "coarse", "-", "grained", "methods", "are", "able", "to", "memorize", "such", "composition", "and", "provide", "the", "correct", "answer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "6", "Conclusion", "This", "paper", "proposes", "FC", "-", "KBQA", ",", "a", "Fine", "-", "to-", "Coarse", "composition", "framework", "for", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "The", "core", "idea", "behind", "it", "is", "to", "solve", "the", "entanglement", "issue", "of", "main-", "stream", "coarse", "-", "grained", "modeling", "by", "the", "fine", "-", "grained", "modeling", ",", "and", "further", "improve", "the", "executability", "of", "logical", "expression", "by", "reformulating", "the", "fine-", "grained", "knowledge", "into", "middle", "-", "grained", "knowledge", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Benefiting", "from", "this", ",", "FC", "-", "KBQA", "achieves", "new", "state", "-", "of", "-", "the", "-", "art", "performance", "and", "efficiency", "on", "the", "compositional", "and", "zero", "-", "shot", "generalization", "KBQA", "tasks", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]

[ "This", "fine", "-", "to", "-", "coarse", "framework", "with", "middle", "-", "grained", "knowledge", "injection", "could", "be", "in-", "spiring", "for", "generalization", "on", "other", "NLP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "7", "Limitations", "Although", "our", "model", "achieves", "good", "performance", "in", "solving", "the", "compositional", "and", "zero", "-", "shot", "generalization", "problems", ",", "there", "is", "still", "room", "for", "improvement", "on", "the", "i.i.d", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "fine", "-", "grained", "module", "in", "our", "framework", "can", "not", "take", "advantage", "of", "explicit", "composition", "infor-", "mation", "when", "the", "component", "compositions", "in", "the", "testing", "set", "and", "training", "set", "significantly", "overlapp", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "in", "Freebase", ",", "\"", "Who", "is", "the", "coach", "of", "FC", "Barcelona", "?", "\"", "is", "answered", "by", "the", "join", "of", "relation", "“", "sports.sports_team.coaches", "”", "and", "“", "sports.sports_team_coach_tenure.coach", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "fine", "-", "grained", "extractor", "may", "fail", "to", "recall", "“", "sports.sports_team_coach_tenure.coach", "”", "and", "in-", "stead", "select", "“", "base.american_football.football_coac", "-h.coach", "”", "as", "the", "candidate", "since", "‘", "football", "coach", "”", "is", "more", "relevant", "to", "the", "question", "than", "“", "coach", "tenure", "”", "in", "semantics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "only", "coarse", "-", "grained", "model", ",", "however", ",", "can", "directly", "memorize", "the", "pattern", "because", "such", "composition", "appears", "frequently", "in", "the", "training", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "compared", "to", "conventional", "models", "that", "completely", "memorize", "composition", "patterns", ",", "our", "model", "may", "only", "have", "minor", "advantages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Another", "limitation", "is", "that", "we", "can", "not", "guar-", "antee", "the", "generalization", "on", "other", "KBs", "such", "as", "WikiData", "because", "gaps", "between", "KBs", "may", "bring", "negative", "impact", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "rela-", "tions", "in", "Freebase", "are", "often", "more", "specific", "(", "ice_hockey.hockey_player.hockey_position", ",", "soccer.football_player.position_s", ")", ",", "while", "re-", "lations", "in", "Wikidata", "are", "more", "general", "(", "posi-", "tion_played_on_team", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "consider", "it", "as", "a", "direction", "for", "our", "future", "work", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "8", "Ethics", "Statement", "This", "work", "focuses", "on", "the", "generalization", "issue", "of", "knowledge", "base", "question", "answering", ",", "and", "the", "con-", "tribution", "is", "fully", "methodological", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Hence", ",", "there", "are", "no", "direct", "negative", "social", "impacts", "of", "this", "work", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "experiments", ",", "this", "work", "uses", "open", "datasets", "that", "have", "been", "widely", "used", "in", "previous", "work", "and", "are", "without", "sensitive", "information", "as", "we", "know", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "authors", "of", "this", "work", "follow", "the", "ACL", "Code", "of", "Ethics", "and", "the", "application", "of", "this", "work", "have", "no", "obvious", "issue", "that", "may", "lead", "to", "the", "risk", "of", "ethics", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "1018–1032", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Does", "GPT-3", "Grasp", "Metaphors", "?", "Identifying", "Metaphor", "Mappings", "with", "Generative", "Language", "ModelsLennart", "WachowiakKing", "’s", "College", "Londonlennart.wachowiak", "@", "gmail.comDagmar", "GromannUniversity", "of", "Viennadagmar.gromann", "@", "gmail.comAbstractConceptual", "metaphors", "present", "a", "powerful", "cog", "-", "nitive", "vehicle", "to", "transfer", "knowledge", "structuresfrom", "a", "source", "to", "a", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Prior", "neuralapproaches", "focus", "on", "detecting", "whether", "natu", "-", "ral", "language", "sequences", "are", "metaphoric", "or", "lit", "-", "eral", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "believe", "that", "to", "truly", "probe", "metaphoricknowledge", "in", "pre", "-", "trained", "language", "models", ",", "their", "capability", "to", "detect", "this", "transfer", "should", "beinvestigated", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "this", "end", ",", "this", "paper", "proposes", "toprobe", "the", "ability", "of", "GPT-3", "to", "detect", "metaphoriclanguage", "and", "predict", "the", "metaphor", "’s", "source", "do", "-", "main", "without", "any", "pre", "-", "set", "domains", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "experi", "-", "ment", "with", "different", "training", "sample", "conﬁgura", "-", "tions", "for", "ﬁne", "-", "tuning", "and", "few", "-", "shot", "prompting", "ontwo", "distinct", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "provided", "12", "few", "-", "shot", "samples", "in", "the", "prompt", ",", "GPT-3", "generatesthe", "correct", "source", "domain", "for", "a", "new", "samplewith", "an", "accuracy", "of", "65.15", "%", "in", "English", "and34.65", "%", "in", "Spanish", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O" ]

[ "GPT", "’s", "most", "common", "er", "-", "ror", "is", "a", "hallucinated", "source", "domain", "for", "whichno", "indicator", "is", "present", "in", "the", "sentence", "." ]

[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Othercommon", "errors", "include", "identifying", "a", "sequenceas", "literal", "even", "though", "a", "metaphor", "is", "presentand", "predicting", "the", "wrong", "source", "domain", "basedon", "speciﬁc", "words", "in", "the", "sequence", "that", "are", "notmetaphorically", "related", "to", "the", "target", "domain.1", "IntroductionMetaphor", "processing", "with", "pre", "-", "trained", "languagemodels", "(", "e.g.", "Conneau", "et", "al", ".", ",2020", ";", "Brown", "et", "al", ".", ",2020", ")", "has", "been", "dominated", "by", "metaphor", "detec", "-", "tion", ",", "that", "is", ",", "the", "classiﬁcation", "of", "expressions", "intometaphoric", "or", "literal", "(", "e.g.", "Aghazadeh", "et", "al", ".", ",2022", ";", "Leong", "et", "al", ".", ",2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "metaphor", "interpretation", ",", "acommon", "approach", "is", "to", "paraphrase", "metaphoric", "ex", "-", "pressions", "into", "literal", "ones", "(", "e.g.", "Stowe", "et", "al", ".", ",2021a", ")", ".Few", "approaches", "target", "metaphor", "identiﬁcation", ",", "e.g.predicting", "the", "source", "domain", "of", "a", "metaphor", "in", "a", "lin", "-", "guistic", "sequence", "." ]

[ "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "Rosen", "(", "2018", ")", "relieson", "grammatical", "constructs", "and", "pre", "-", "deﬁned", "labels", ".", "Instead", ",", "in", "this", "paper", ",", "we", "test", "a", "generative", "languagemodel", "’s", "ability", "to", "predict", "the", "source", "domain", "givena", "target", "domain", "and", "sequence", "without", "grammaticalassumptions", "or", "ﬁxed", "source", "domain", "labels", ".", "Conceptual", "metaphor", "theory", "(", "CMT", ")", "(", "Lakoff", "andJohnson,1980", ")", "starts", "from", "the", "assumption", "thatmetaphors", "represent", "a", "powerful", "cognitive", "mech", "-", "anism", "to", "transfer", "physical", "knowledge", "structures", "toabstract", "domains", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "natural", "language", ",", "He", "wasbombarded", "by", "insultsorYour", "words", "pierce", "myhearttransfers", "the", "concrete", "domain", "of", "weaponsto", "the", "abstract", "domain", "of", "words", "in", "the", "metaphorWORDS", "ARE", "WEAPONS", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "assumption", "thatour", "cognitive", "organization", "relies", "on", "metaphors", ",", "au", "-", "tomatically", "identifying", "metaphoric", "transfer", "holdsthe", "promise", "of", "contributing", "to", "more", "human", "-", "likecomputational", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "From", "the", "overall", "success", "ofpre", "-", "trained", "language", "models", "in", "metaphor", "detection", ",", "a", "certain", "degree", "of", "metaphoric", "knowledge", "in", "thesemodels", "can", "be", "assumed", "(", "Aghazadeh", "et", "al", ".", ",2022", ")", ".This", "paper", "aims", "to", "evaluate", "whether", "this", "inherentknowledge", "extends", "beyond", "contextual", "clues", "to", "pre", "-", "dict", "the", "concrete", "domains", "in", "the", "metaphoric", "trans", "-", "fer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Detecting", "a", "metaphor", "entails", "contrasting", "thephysical", "with", "the", "abstract", "meaning", "of", "a", "sequence", ".", "However", ",", "the", "source", "domain", "is", "frequently", "a", "non", "-", "contextual", "attribute", "(", "Aghazadeh", "et", "al", ".", ",2022", ")", ",", "whilethe", "target", "domain", "can", "be", "found", "directly", "using", "con", "-", "textual", "clues", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "in", "the", "above", "example", ",", "pierceis", "more", "implicitly", "related", "to", "WEAPONSthan", "the", "explicitwordsis", "to", "WORDS", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "deter", "-", "mine", "the", "accuracy", "of", "the", "predicted", "source", "domainsfrom", "ﬁne", "-", "tuning", "and", "few", "-", "shot", "prompting", "GPT-3", "(", "Brown", "et", "al", ".", ",2020", ")", ",", "we", "manually", "evaluate", "the", "re", "-", "sults", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "this", "end", ",", "we", "propose", "a", "classiﬁcation", "oferror", "types", "from", "too", "generic", "domains", "to", "relyingon", "words", "in", "the", "sentence", "that", "are", "not", "connected", "tothe", "metaphor", ",", "which", "we", "call", "trigger", "words", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thisprovides", "further", "intuition", "on", "the", "nature", "and", "extentof", "metaphoric", "knowledge", "encoded", "in", "pre", "-", "trainedlanguage", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "compare", "methods", "to", "elicitmetaphoric", "knowledge", "without", "any", "assumptionson", "grammar", "or", "source", "domains", "and", "test", "if", "it", "ex-1018", "tends", "across", "languages", ",", "i.e.", ",", "Spanish", "in", "addition", "toEnglish", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Finally", ",", "we", "evaluate", "its", "generalization", "bytesting", "on", "two", "distinct", "datasets", "and", "a", "set", "of", "non", "-", "metaphoric", "sentences.2", "PreliminariesTwo", "major", "pillars", "that", "build", "the", "foundation", "for", "thisapproach", "are", "conceptual", "metaphors", "and", "generativelanguage", "models", ",", "which", "we", "brieﬂy", "introduce", "here.2.1", "Conceptual", "MetaphorsThe", "idea", "of", "metaphoric", "projection", "from", "a", "physi", "-", "cal", "source", "domain", "to", "an", "abstract", "target", "domain", "isdeeply", "rooted", "in", "the", "tradition", "of", "embodied", "cogni", "-", "tion", ",", "which", "assumes", "that", "higher", "-", "level", "cognition", "isshaped", "by", "physical", "experiences", "(", "Barsalou,1999", ")", ".For", "instance", ",", "actual", "physical", "movement", "recruitssimilar", "areas", "in", "the", "brain", "as", "communicating", "withaction", "verbs", "(", "Durand", "et", "al", ".", ",2018", ";", "Gibbs,2006", ")", ".Conceptual", "metaphors", "are", "deeply", "entrenched", "inour", "knowledge", "organization", "system", "and", "utilized", "ineveryday", "communication", "to", "convey", "thoughts", "moreprecisely", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "a", "large", "-", "scale", "study", ",", "Prabhakaran", "et", "al.", "(", "2021", ")", "evaluate", "the", "persuasiveness", "of", "metaphorsand", "show", "that", "metaphoricity", "in", "political", "posts", "in", "-", "creases", "social", "media", "engagement", ".", "Citron", "and", "Gold", "-", "berg", "(", "2014", ")", "show", "that", "metaphoric", "emotional", "lan", "-", "guage", "elicits", "a", "higher", "emotional", "response", "by", "recip", "-", "ients", "than", "literal", "use", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "provide", "complex", "analy", "-", "ses", "of", "metaphoricity", "in", "language", "and", "analyze", "themetaphoric", "knowledge", "of", "generative", "language", "mod", "-", "els", ",", "we", "believe", "that", "identifying", "concrete", "metaphoricprojections", "in", "natural", "language", "is", "required.2.2", "Generative", "Language", "ModelsLarge", "generative", "language", "models", "are", "trained", "withthe", "objective", "of", "predicting", "the", "next", "token", "in", "a", "se", "-", "quence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "During", "inference", ",", "this", "allows", "them", "to", "beprompted", "with", "some", "text", "by", "a", "user", "and", "then", "gen", "-", "erate", "what", "they", "predict", "to", "be", "most", "likely", "to", "comenext", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Scaled", "to", "large", "training", "corpora", "based", "onweb", "-", "data", "and", "multi", "-", "billion", "parameter", "architectures", ",", "this", "simple", "objective", "resulted", "in", "models", "such", "asGPT-3", "(", "Brown", "et", "al", ".", ",2020", ")", "or", "its", "open", "-", "source", "vari", "-", "ants", "BLOOM", "(", "Luccioni", "et", "al", ".", ",2022", ")", "and", "OPT-175", "(", "Zhang", "et", "al", ".", ",2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "a", "speciﬁc", "task", ",", "thesemodels", "can", "be", "used", "either", "in", "a", "zero", "-", "shot", ",", "few", "-", "shot", ",", "or", "ﬁne", "-", "tuning", "manner", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "zero", "-", "shot", "text", "comple", "-", "tion", ",", "the", "model", "is", "prompted", "with", "an", "instance", "ofa", "task", "without", "being", "provided", "any", "example", "solu", "-", "tion", "of", "other", "task", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "comparison", ",", "forfew", "-", "shot", "completions", ",", "the", "prompt", "already", "containssome", "samples", "of", "the", "task", "and", "the", "respective", "solu", "-", "tions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "both", "variants", ",", "the", "model", "weights", "are", "notchanged", "anymore", ",", "only", "the", "prompt", "differs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "con", "-", "trast", ",", "when", "ﬁne", "-", "tuning", "the", "model", ",", "its", "weights", "areoptimized", "to", "predict", "the", "task", "-", "speciﬁc", "output", "givensome", "input", "/", "output", "task", "samples.3", "Related", "WorkTong", "et", "al.", "(", "2021", ")", "provide", "a", "recent", "overview", "ofarchitectures", "used", "for", "metaphor", "detection", ",", "avail", "-", "able", "datasets", ",", "and", "further", "metaphor", "-", "related", "tasks", ".", "An", "overview", "byRai", "and", "Chakraverty", "(", "2020", ")", "takes", "many", "different", "approaches", "to", "computationalmetaphor", "processing", "into", "account", ",", "additionally", "re-ﬂecting", "on", "the", "different", "theoretical", "and", "linguisticviews", "on", "the", "deﬁnition", "of", "metaphors", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "thereare", "many", "metaphor", "-", "related", "tasks", ",", "the", "closest", "to", "oursare", "presented", "in", "the", "sections", "on", "paraphrasing", "andconnecting", "source", "and", "target", "domains", ".", "Detection", ".", "Metaphor", "detection", ",", "the", "simplest", "formof", "computational", "metaphor", "processing", ",", "is", "a", "binaryclassiﬁcation", "task", "in", "which", "each", "word", "of", "a", "sentenceis", "labeled", "as", "being", "used", "metaphorically", "or", "literally", ".", "In", "a", "2020", "shared", "task", "on", "metaphor", "detection", ",", "ﬁne", "-", "tuning", "pre", "-", "trained", "language", "models", "led", "to", "the", "bestresults", "(", "Leong", "et", "al", ".", ",2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "achieve", "small", "im", "-", "provements", "in", "accuracy", ",", "different", "approaches", "en", "-", "rich", "the", "model", "input", "by", ",", "for", "instance", ",", "providingdictionary", "deﬁnitions", "of", "the", "words", "being", "classiﬁed", "(", "Babieno", "et", "al", ".", ",2022", ")", "or", "concreteness", "measuresthat", "indicate", "to", "what", "extent", "something", "can", "be", "ex", "-", "perienced", "via", "the", "senses", "(", "Brysbaert", "et", "al", ".", ",2014", ")", ".Commonly", "used", "datasets", "for", "this", "task", "are", "the", "VUAmsterdam", "Metaphor", "(", "VUA", ")", "Corpus", "(", "Steen", "et", "al", ".", ",2010", ")", "and", "the", "TOEFL", "corpus", "(", "Klebanov", "et", "al", ".", ",2018", ")", ",", "both", "human", "-", "annotated", "based", "on", "differentprotocols", ".", "Model", "Insights", ".", "Other", "research", "explores", "the", "em", "-", "beddings", "generated", "by", "language", "models", "and", "howthey", "relate", "to", "metaphoricity", ".", "Pedinotti", "et", "al.", "(", "2021", ")", "show", "that", "BERT", "’s", "likelihood", "scores", "show", "a", "de", "-", "creasing", "likelihood", "from", "literal", "sentences", "to", "con", "-", "ventional", "and", "novel", "metaphors", "and", ",", "lastly", ",", "to", "non", "-", "sense", "sentences", ";", "thus", ",", "BERT", "’s", "scores", "correlate", "withhuman", "-", "annotated", "plausibility", "scores", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Moreover", ",", "for", "different", "layers", ",", "they", "explore", "cosine", "similari", "-", "ties", "between", "words", "used", "metaphorically", ",", "e.g.", ",", "theﬂowersnoddedin", "the", "wind", ",", "and", "their", "metaphori", "-", "cal", "paraphrases", "and", "literal", "synonyms", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Similarly,1019", "Aghazadeh", "et", "al.", "(", "2022", ")", "investigate", "which", "layersof", "different", "language", "models", "encode", "metaphoricknowledge", "across", "different", "languages", "and", "datasetsvia", "probing", ".", "Paraphrasing", ".", "One", "common", "approach", "tometaphor", "interpretation", "is", "paraphrasing", "themetaphorical", "expression", "using", "only", "literal", "words", ".", "For", "example", ",", "the", "phraseto", "devour", "a", "novelcouldbe", "rephrased", "asto", "enjoy", "a", "novel", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "An", "exampleof", "metaphor", "interpretation", "is", "the", "work", "byMaoet", "al.", "(", "2018", ")", ",", "who", "propose", "to", "query", "WordNetfor", "possible", "candidate", "translations", ",", "from", "whichthe", "best", "is", "selected", "based", "on", "similarities", "in", "theembedding", "space", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "other", "hand", ",", "there", "is", "alsoresearch", "on", "generating", "metaphoric", "paraphrasesgiven", "a", "literal", "sentence", "as", "input", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recent", "work", "inmetaphoric", "paraphrasing", "uses", "text", "-", "to", "-", "text", "models", ",", "such", "as", "T5", "or", "BART", "(", "Stowe", "et", "al", ".", ",2021b", ",", "a", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Mostrecently", ",", "Liu", "et", "al.", "(", "2022", ")", "proposed", "a", "new", "task", "forwhich", "they", "created", "a", "dataset", "of", "novel", "metaphorsin", "the", "form", "of", "similes", ",", "for", "exampleThe", "meteorwas", "as", "bright", "as", "(", "New", "York", "City", "|", "coal", ")", ",", "whichthe", "language", "model", "has", "then", "to", "interpret", "asverybrightornot", "bright", "at", "all", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "ﬁne", "-", "tuned", "RoBERTamodel", "outperforms", "various", "GPT", "variants", "on", "thetask", "and", "comes", "close", "to", "human", "performance", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Theauthors", "also", "show", "that", "the", "reverse", "of", "the", "tasks", ",", "i.e.", ",", "predicting", "the", "metaphoric", "language", "given", "theliteral", "answer", ",", "is", "more", "difﬁcult", ".", "Connecting", "Source", "and", "Target", "Domains", ".", "Try", "-", "ing", "to", "automate", "the", "process", "of", "identifying", "metaphormappings", "is", "not", "a", "new", "endeavor", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "given", "manually", "collected", "metaphoric", "phrases", "of", "aspeciﬁc", "target", "domain", ",", "Chung", "et", "al.", "(", "2004", ")", "proposeto", "facilitate", "the", "identiﬁcation", "of", "source", "domains", "byquerying", "WordNet", "senses", "and", "the", "ontology", "SUMO.More", "recent", "research", "makes", "use", "of", "syntactical", "pat", "-", "terns", "metaphoric", "language", "often", "occurs", "in", "(", "Sullivan,2013", ")", ",", "thereby", "narrowing", "down", "the", "pool", "of", "sen", "-", "tences", "considered", "as", "metaphoric", "candidates", ".", "Dodgeet", "al.", "(", "2015", ")", "use", "such", "patterns", "to", "ﬁnd", "metaphorcandidates", "that", "are", "further", "analyzed", "by", "identifyingevoked", "frames", "and", "checking", "for", "whether", "the", "framesrelate", "in", "MetaNet", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "a", "target", "domain", "and", "a", "cor", "-", "pus", ",", "they", "can", "use", "this", "system", "to", "see", "which", "sourcedomains", "are", "frequently", "used", "to", "metaphorically", "talkabout", "a", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "system", ",", "however", ",", "islimited", "by", "existing", "frame", "resources", "and", "relies", "onpre", "-", "deﬁned", "grammatical", "structures", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Also", "queryingan", "existing", "database", ",", "Ge", "et", "al.", "(", "2022", ")", "use", "hypernymrelations", "from", "WordNet", "to", "identify", "the", "source", "andtarget", "domains", "for", "pairs", "of", "literally", "used", "nouns", "andliterally", "or", "metaphorically", "used", "verbs", "or", "adjectives", ".", "While", "the", "target", "domain", "identiﬁcation", "reaches", "anaccuracy", "of", "87.3", "%", ",", "the", "source", "domain", "identiﬁca", "-", "tion", "only", "reaches", "67.3", "%", "based", "on", "the", "manual", "eval", "-", "uation", "of", "a", "small", "subset", "of", "the", "data", ".", "Shutova", "et", "al.", "(", "2017", ")", "explore", "unsupervised", "methods", "for", "identify", "-", "ing", "clusters", "of", "source", "and", "target", "concepts", "as", "wellas", "the", "connections", "between", "them", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "limit", "theirapproach", "to", "verb", "–", "noun", "constructions", ",", "from", "whichthe", "verbs", "constitute", "the", "source", "domain", "clusters", "andthe", "nouns", "the", "target", "domain", "clusters", ".", "Mohler", "et", "al.", "(", "2016", ")", "provide", "a", "dataset", "withsentences", "from", "government", "discourse", "annotatedwith", "scores", "from", "-1", "to", "3", "to", "indicate", "the", "level", "ofmetaphoricity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "More", "importantly", ",", "7,941", "sentencesare", "annotated", "for", "source", "–", "target", "domain", "mappingswith", "108", "different", "source", "domains", ".", "Rosen", "(", "2018", ")", "uses", "this", "dataset", "to", "build", "a", "model", "to", "predict", "thesource", "domain", "of", "a", "metaphor", "given", "a", "contextualsentence", "and", "a", "target", "domain", "referent", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Comparedto", "our", "approach", ",", "this", "work", "presupposes", "that", "a", "givensentence", "is", "metaphoric", "while", "also", "depending", "onspeciﬁc", "grammatical", "dependencies", "when", "construct", "-", "ing", "the", "model", "input", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Most", "importantly", ",", "it", "is", "limitedto", "the", "77", "labels", "sub", "-", "sampled", "from", "the", "overall", "avail", "-", "able", "108", "domains", "as", "experiments", "are", "done", "usingfeed", "-", "forward", "neural", "networks", "and", "LSTMs", "insteadof", "text", "-", "to", "-", "text", "networks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Rosen", "also", "shows", "that", "theinter", "-", "annotator", "agreement", "for", "the", "original", "sourcedomain", "annotations", "is", "rather", "low", "with", "a", "Cohen’skappa", "of", "0.544", ",", "which", "indicates", "the", "difﬁculty", "andpotential", "ambiguity", "of", "the", "task", ".", "In", "contrast", "to", "the", "existing", "work", "on", "computationalextraction", "of", "source", "and", "target", "domains", ",", "our", "ap", "-", "proach", "does", "not", "rely", "on", "any", "assumptions", "aboutgrammatical", "structure", "or", "word", "types", "that", "suppos", "-", "edly", "indicate", "metaphorical", "language", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Moreover", ",", "we", "are", "not", "limited", "to", "a", "pre", "-", "deﬁned", "set", "of", "source", "ortarget", "domains", "due", "to", "the", "text", "-", "to", "-", "text", "approach.4", "Method4.1", "TaskIn", "our", "experiments", ",", "we", "use", "GPT-3", "to", "predict", "ametaphor", "’s", "source", "domain", "given", "a", "sentence", "anda", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "a", "prompt", "to", "identifythe", "conceptual", "metaphor", "underlying", "the", "sentenceYou", "are", "wasting", "my", "timecould", "look", "like", "this", ":", "Extract", "the", "conceptual", "metaphor", "from", "thefollowing", "sentence", ":", "1020", "Sentence", ":", "Our", "relationship", "is", "atcrossroadsTarget", "Domain", ":", "RelationshipSource", "Domain", ":", "JourneySentence", ":", "You", "are", "wasting", "m", "y", "timeTarget", "Domain", ":", "TimeSource", "Domain", ":", "<", "<", "model", "completion", ">", ">", "In", "this", "prompt", ",", "the", "model", "is", "provided", "with", "oneexample", "of", "a", "metaphor", "mapping", ",", "which", "is", "RE", "-", "LATIONSHIP", "IS", "A", "JOURNEY", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Afterwards", ",", "it", "isprovided", "with", "the", "sentence", "and", "target", "domain", "forwhich", "we", "want", "to", "know", "the", "source", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "cor", "-", "rect", "prediction", ",", "in", "this", "case", ",", "would", "be", "TIME", "ISMONEY", "or", "TIME", "IS", "A", "RESOURCE.4.2", "DatasetThe", "main", "dataset", "was", "gathered", "by", "retrieving", "allnatural", "language", "examples", "annotated", "with", "sourceand", "target", "domain", "from", "Lakoff", "’s", "Master", "MetaphorList1", ",", "called", "Metaphor", "List", "in", "the", "following", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "Forthis", "task", ",", "we", "randomly", "selected", "446", "sentences", ",", "witha", "maximum", "of", "three", "per", "metaphor", ",", "i.e.", ",", "per", "uniquecombination", "of", "source", "and", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "en", "-", "sure", "that", "the", "model", "does", "not", "simply", "assume", "all", "sen", "-", "tences", "to", "be", "metaphoric", ",", "we", "use", "non", "-", "metaphoricEnglish", "sentences", "from", "the", "VUA", "corpus", "(", "Steenet", "al", ".", ",2010", ")", "by", "extracting", "sentences", "for", "which", "eachword", "is", "labeled", "as", "literal", "by", "the", "annotators", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "in", "-", "stance", ",", "He", "did", "not", "even", "see", "an", "English", "newspaperis", "an", "example", "of", "a", "non", "-", "metaphoric", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Fromthe", "extracted", "non", "-", "metaphoric", "sentences", ",", "we", "manu", "-", "ally", "chose", "50", "to", "be", "added", "to", "our", "dataset", "as", "many", "ofthe", "sentences", "were", "wrongly", "labeled", "or", "extremelyshort", ".", "The", "resulting", "dataset", "is", "split", "into", "a", "train", ",", "vali", "-", "dation", ",", "and", "test", "set", "detailed", "in", "Table1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "uniquecombination", "of", "source", "and", "target", "domain", ",", "for", "ex", "-", "ample", ",", "BELIEFS", "(", "target", ")", "ARE", "PLANTS", "(", "source", ")", ",", "does", "not", "appear", "in", "the", "validation", "or", "test", "set", "if", "italready", "appeared", "in", "the", "training", "set", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "allowsus", "to", "test", "whether", "the", "model", "can", "generalize", "to", "new", ",", "unseen", "metaphors", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "the", "Metaphor", "List", "data", "onlycontains", "a", "limited", "number", "of", "domain", "combinations", ",", "the", "validation", "and", "test", "set", "contain", "the", "same", "com", "-", "binations", "of", "source", "and", "target", "domains", ",", "however", ",", "with", "different", "unique", "sentences", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Entirely", "new", "do", "-", "main", "combinations", "in", "the", "test", "set", "are", "evaluated", "viasentences", "from", "additional", "datasets", ".", "To", "test", "the", "ability", "to", "generalize", "across", "datasets,1http", ":", "/", "/", "www.lang.osaka", "-", "u.ac.jp", "/", "~sugimoto", "/", "MasterMetaphorList", "/", "metaphors", "/", "index.htmlcopyright", "(", "c", ")", "1994", "by", "George", "Lakoff", ",", "University", "ofCalifornia", ",", "Berkeleywe", "use", "sentences", "from", "the", "LCC", "dataset", "(", "Mohleret", "al", ".", ",2016", ")", "(", "CC", "BY", "-", "NC", "-", "SA", "v4.0", ")", ",", "where", "we", "usethe", "provided", "source", "and", "target", "domains", "and", "theraw", "sentences", "without", "indication", "of", "the", "precisemetaphor", "location", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "From", "the", "English", "and", "Span", "-", "ish", "sentences", ",", "we", "use", "a", "subset", "of", "maximally", "10sentences", "per", "target", "domain", ",", "resulting", "in", "a", "set", "of284", "(", "EN", ")", "and", "110", "(", "ES", ")", "sentences", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "comparisonto", "the", "Metaphor", "List", "samples", ",", "the", "LCC", "dataset", "con", "-", "sists", "of", "much", "longer", "sentences", "using", "complicated", ",", "expert", "language", "from", "the", "political", "domain", ".", "All", "multilingual", "samples", ",", "as", "well", "as", "sentencesfrom", "the", "LCC", "corpus", ",", "are", "solely", "used", "as", "hold", "-", "outtest", "set", "and", "do", "not", "play", "a", "role", "in", "the", "model", "andprompt", "selection", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "sentences", ",", "thus", ",", "test", "the", "model", "’s", "generalization", "ability", "to", "new", "sourcedomains", ",", "a", "different", "language", ",", "i.e.", ",", "Spanish", ",", "andmore", "complex", "sentences", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Model", "and", "prompt", "se", "-", "lection", "is", "based", "on", "the", "validation", "set", "created", "fromthe", "Metaphor", "List", "samples", "and", "the", "non", "-", "metaphoricVUA", "sentences", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O" ]

[ "The", "number", "of", "samples", "from", "thetraining", "set", "that", "are", "actually", "used", "depends", "on", "theprompting", "type.4.3", "Experiments", "and", "EvaluationUsing", "two", "automated", "evaluation", "metrics", "(", "Sec.4.3.1", ")", ",", "we", "compare", "few", "-", "shot", "prompts", "and", "ﬁne", "-", "tuned", "models", "on", "the", "validation", "set", "(", "Sec.4.3.2", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]