Datasets:

anlp

/

annotation2_wo_elimination

like 0

Follow

anlp team project 4

[ "Thetest", "set", "evaluation", "is", "done", "manually", "(", "Sec.4.3.3", ")", "4.3.1", "Evaluation", "MetricWhile", "we", "manually", "evaluate", "the", "model", "on", "the", "testset", ",", "we", "use", "two", "automatically", "computed", "scores", "toevaluate", "on", "the", "validation", "set", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "validation", "per", "-", "formance", "is", "used", "to", "select", "the", "best", "way", "to", "promptor", "fine", "-", "tune", "the", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "the", "first", "score", ",", "we", "com", "-", "pute", "the", "embedding", "similarity", "of", "the", "gold", "standardsource", "domain", "and", "the", "GPT-3", "-", "generated", "domain", ".", "We", "compute", "the", "similarity", "using", "the", "Gensim", "library", "(", "ˇReh˚", "uˇrek", "and", "Sojka,2010", ")", "with", "300", "-", "dimensionalGloVe", "vectors", "(", "Pennington", "et", "al", ".", ",2014", ")", ".To", "provide", "more", "context", "to", "the", "automated", "eval", "-", "uation", ",", "we", "also", "use", "knowledge", "graph", "embeddings", ".", "We", "rely", "on", "the", "KGvec2go", "Web", "API", "(", "Portisch", "et", "al", ".", ",2020", ")", "created", "from", "the", "resources", "WordNet", ",", "Wik", "-", "tionary", ",", "DBpedia", ",", "and", "WebIsALOD", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "averagethe", "four", "returned", "similarity", "scores", "based", "on", "the", "dif", "-", "ferent", "resources", ",", "called", "KB", "score", "in", "the", "following.4.3.2", "Prompt", "SelectionTo", "see", "with", "what", "prompts", "the", "model", "returns", "thebest", "source", "domains", ",", "we", "vary", "the", "number", "of", "labeled1021", "Dataset", "TrainSentencesVal", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Sen", "-", "tencesTest", "Sen", "-", "tencesTargetDomainsSourceDomainsMetaphor", "List", "117", "105", "224", "91", "94VUA", "non", "-", "metaphoric", "15", "15", "15", "47", "-LCC", "EN", "0", "0", "284", "30", "90LCC", "ES", "0", "0", "110", "11", "67Total", "132", "120", "633", "179", "251Table", "1", ":", "Number", "of", "sentences", "and", "unique", "target", "and", "source", "domains", "in", "the", "different", "datasets.few", "-", "shot", "samples", "provided", "at", "the", "beginning", "of", "eachprompt", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "compute", "the", "scores", "described", "in", "Sec", "-", "tion4.3.1for", "generations", "obtained", "through", "promptscontaining", "2", ",", "4", ",", "6", ",", "8", ",", "and", "12", "labeled", "samples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "O" ]

[ "Thatmeans", ",", "in", "each", "few", "-", "shot", "setting", ",", "the", "model", "has", "atleast", "2", "examples", "of", "correct", "domain", "mappings", "fororientation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "of", "these", "five", "prompt", "varia", "-", "tions", ",", "we", "choose", "three", "distinct", "sets", "of", "training", "sam", "-", "ples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "we", "generate", "three", "solutions", "to", "evaluate", ".", "This", "allows", "us", "to", "observe", "how", "much", "the", "modeldepends", "on", "specific", "training", "samples", ",", "and", "we", "cancompute", "average", "scores", "and", "standard", "deviations", ".", "Moreover", ",", "we", "also", "fine", "-", "tune", "GPT-3", "by", "using", "oursamples", "to", "train", "the", "model", "for", "4", "epochs", ",", "duringwhich", "the", "model", "’s", "weights", "are", "adapted", ",", "instead", "ofjust", "providing", "the", "samples", "as", "few", "-", "shot", "samples", "inthe", "prompt", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O" ]

[ "After", "fine", "-", "tuning", ",", "the", "model", "does", "notrequire", "any", "few", "-", "shot", "samples", "in", "the", "prompt", ",", "but", "candirectly", "classify", "a", "sample", "from", "the", "validation", "set", ".", "We", "fine", "-", "tune", "two", "variants", ":", "(", "1", ")", "a", "model", "fine", "-", "tunedwith", "all", "132", "sentences", "from", "the", "training", "set", ";", "and", "(", "2", ")", "a", "model", "fine", "-", "tuned", "with", "34", "sentences", "from", "thetraining", "set", ",", "one", "per", "unique", "source", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Theexperiments", "of", "comparing", "different", "prompts", "witheach", "other", "and", "the", "fine", "-", "tuned", "variants", "use", "the", "vali", "-", "dation", "set", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "With", "GPT-3", "being", "proprietary", "licensedby", "the", "OpenAI", ",", "L.L.C", "Terms", "of", "Use", ",", "the", "text", "gen", "-", "erations", "with", "its", "API", "cost", "42.73", "$", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "code", "isavailable", "online2.For", "all", "generations", ",", "we", "set", "the", "temperature", "pa", "-", "rameter", "to", "0", ",", "which", "means", "that", "the", "text", "generationmodel", "samples", "words", "in", "a", "greedy", "fashion", ",", "i.e.", ",", "it", "al", "-", "ways", "generates", "the", "most", "likely", "next", "word", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Increas", "-", "ing", "the", "temperature", "changes", "the", "likelihood", "withwhich", "words", "are", "sampled", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "now", ",", "a", "temperatureof", "0", "allows", "us", "to", "generate", "words", "in", "a", "deterministic", ",", "repeatable", "fashion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "future", "experimentscould", "include", "the", "temperature", "as", "a", "hyperparame", "-", "ter", "to", "be", "optimized", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "GPT-3", "architectures", "we2https", ":", "/", "/", "github.com", "/", "lwachowiak", "/", "Metaphor-Extraction-With-GPT-3used", "are", "davinci-002", ",", "the", "most", "powerful", "availablemodel", "variant", "at", "the", "time", "of", "the", "experiments3", ",", "andcurie-001", ",", "the", "second", "most", "powerful", "variant.4.3.3", "Manual", "EvaluationIssues", "with", "the", "gold", "standard", "source", "domains", ",", "aswell", "as", "the", "fact", "that", "the", "source", "domains", "can", "bephrased", "with", "different", "expressions", "and", "differ", "intheir", "level", "of", "precision", ",", "make", "it", "difficult", "for", "theautomated", "scores", "to", "be", "reliable", "enough", "to", "directlyderive", "an", "accuracy", "score", "from", "them", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "to", "com", "-", "pute", "the", "final", "accuracy", "on", "the", "test", "set", ",", "we", "manu", "-", "ally", "check", "the", "model", "’s", "output", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "experimentingwith", "the", "different", "prompting", "styles", "on", "the", "validationset", ",", "we", "choose", "the", "model", "with", "the", "best", "combinedKB", "score", "and", "embedding", "similarity", "for", "manualevaluation", "on", "the", "hold", "-", "out", "test", "set", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Two", "annota", "-", "tors", ",", "the", "authors", "of", "this", "paper", ",", "manually", "evaluatethe", "correctness", "of", "the", "generated", "answers", "for", "En", "-", "glish", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Both", "annotators", "independently", "evaluated", "themodel", "output", "and", "then", "discussed", "disagreements", ".", "One", "annotator", "evaluates", "the", "answers", "for", "Spanish", ".", "The", "source", "domain", "was", "considered", "correct", "if", "itcorresponded", "to", "the", "gold", "standard", "or", "was", "deemedcorrect", "by", "the", "annotator", "(", "s", ")", ".While", "hard", "to", "automate", ",", "for", "humans", "it", "is", "ofteneasy", "to", "detect", "a", "close", "correspondence", "between", "agold", "domain", ",", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "“", "musical", "harmony", "”", ",", "and", "a", "pre", "-", "dicted", "domain", ",", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "“", "music", "”", "." ]

[ "O", "O", "O", "O" ]

[ "In", "difficult", "cases", ",", "annotators", ",", "following", "the", "Metaphor", "IdentificationProcedure", "(", "MIP", ")", "(", "Group,2007", ")", ",", "analyze", "words", "fortheir", "more", "basic", ",", "physical", "meaning", "and", "see", "if", "theseare", "in", "concordance", "with", "the", "predicted", "source", "do", "-", "main", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "the", "gold", "standard", "forYou", "makeme", "sick", "!", "is", "“", "nausea", "”", ",", "whereassickis", "also", "definedas", "physically", "ill", "and", "thus", "related", "to", "the", "predicted“disease", "”", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "gather", "more", "insights", "intothe", "type", "of", "issues", "that", "can", "be", "observed", "from", "thepredicted", "source", "domains", ",", "all", "predictions", "deemed3In", "November", "2022", ",", "OpenAI", "released", "davinci-003", ",", "anInstructGPT", "variant", "(", "Ouyang", "et", "al", ".", ",2022", ")", ".1022", "Figure", "1", ":", "Automatically", "computed", "scores", "on", "the", "valida", "-", "tion", "set", "in", "relation", "to", "the", "number", "of", "examples", "providedin", "the", "promptincorrect", "are", "classified", "by", "type", "of", "error", "as", "detailedin", "Section5.3.5", "ResultsThis", "section", "describes", "the", "results", "from", "the", "experi", "-", "ments", "that", "determine", "the", "manually", "evaluated", "testset", "predictions", ",", "their", "accuracy", ",", "and", "types", "of", "errors.5.1", "Prompt", "Selection", "ResultsFigure1shows", "the", "automatically", "computed", "scoreson", "the", "validation", "set", "achieved", "by", "davinci-002", "andcurie-001", "with", "different", "numbers", "of", "few", "-", "shot", "sam", "-", "ples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "can", "see", "that", "davinci-002", "outperforms", "thesmaller", "architecture", "by", "about", "0.15", "to", "0.2", "points", ".", "The", "highest", "embedding", "similarity", "and", "highest", "KBscore", "are", "achieved", "by", "davinci-002", "when", "promptedwith", "12", "different", "few", "-", "shot", "training", "samples", ",", "achiev", "-", "ing", "an", "embedding", "similarity", "of", "0.505", "and", "a", "KBscore", "of", "0.553", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "the", "standard", "deviation", "isvery", "high", "for", "the", "models", "prompted", "with", "12", "samples", ",", "thus", ",", "showing", "the", "importance", "of", "the", "quality", "of", "thosesamples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "this", "fluctuation", "in", "performance", ",", "the", "average", "KB", "score", "over", "all", "three", "runs", "is", "highestfor", "davinci-002", "models", "prompted", "with", "8", "samples", ",", "and", "the", "average", "embedding", "score", "is", "highest", "fordavinci-002", "models", "prompted", "with", "4", "samples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Theprompt", "based", "on", "12", "few", "-", "shot", "samples", "that", "led", "tothe", "overall", "best", "results", "is", "available", "in", "the", "appendix", ".", "In", "comparison", ",", "the", "fine", "-", "tuned", "models", "performbetter", "than", "the", "curie-001", "models", "but", "worse", "thanthe", "davinci-002", "models", "." ]

[ "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "O", "O" ]

[ "Fine", "-", "tuning", "a", "model", "with36", "samples", ",", "each", "with", "a", "unique", "source", "domain", ",", "leads", "to", "an", "embedding", "similarity", "of", "0.303", "and", "aKB", "score", "of", "0.386", "." ]

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricValue", "O", "B-MetricName", "I-MetricName", "O", "B-MetricValue", "O" ]

[ "Fine", "-", "tuning", "GPT-3", "on", "all", "avail", "-", "able", "training", "samples", "results", "in", "improved", "scores", "of0.413", "and", "0.513", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Examining", "the", "completions", "of", "themodel", "fine", "-", "tuned", "on", "all", "samples", ",", "we", "can", "see", "that", "itsticks", "more", "to", "the", "source", "domains", "already", "presentin", "the", "training", "data", "while", "also", "predicting", "fewerdistinct", "source", "domains", "overall", ":", "the", "completionsfrom", "the", "best", "performing", "few", "-", "shot", "variant", "contain74", "unique", "source", "domains", ",", "from", "which", "7", "are", "alsopresent", "in", "the", "training", "data", ";", "the", "completions", "of", "themodel", "fine", "-", "tuned", "on", "36", "contain", "78", "unique", "sourcedomains", ",", "from", "which", "13", "are", "present", "in", "the", "trainingdata", ";", "and", "the", "completions", "of", "the", "model", "fine", "-", "tunedon", "all", "data", "contain", "only", "50", "unique", "source", "domains", ",", "from", "which", "18", "are", "present", "in", "the", "training", "data.5.2", "Manual", "Evaluation", "ResultsWe", "used", "the", "best", "prompt", "identified", "in", "the", "previoussection", "to", "generate", "the", "source", "domains", "for", "the", "testset", "samples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "correctness", "of", "the", "generationswas", "manually", "verified", "by", "two", "annotators", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "usedCohen", "’s", "Kappa", ",", "a", "chance", "-", "corrected", "coefficient", "ofagreement", ",", "to", "compute", "the", "inter", "-", "annotator", "agree", "-", "ment", "." ]

[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Across", "all", "test", "data", "points", ",", "we", "obtained", "a", "Co", "-", "hen", "’s", "Kappa", "of", "0.51", ",", "corresponding", "to", "a", "moderateagreement", "according", "toLandis", "and", "Koch", "(", "1977", ")", ".After", "disagreements", "were", "resolved", "through", "discus", "-", "sion", ",", "we", "computed", "the", "model", "’s", "accuracy", ",", "which", "isreported", "by", "dataset", "in", "Table2", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "model", "achievedan", "accuracy", "of", "81.33", "%", "on", "the", "Metaphor", "List", "cor", "-", "pus", ",", "53.74", "%", "on", "the", "English", "part", "of", "the", "LCC", "corpus", ",", "and", "34.65", "%", "on", "the", "Spanish", "part", "of", "the", "LCC", "cor", "-", "pus", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", ",", "the", "model", "was", "able", "to", "achieve", "anaccuracy", "of", "42.11", "%", "in", "predicting", "a", "sentence", "is", "non", "-", "metaphoric", "instead", "of", "predicting", "a", "source", "domain", ".", "Averaged", "by", "sample", ",", "this", "results", "in", "an", "accuracy", "of60.22", "%", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "decrease", "in", "performance", "on", "the", "LCCtest", "set", "is", "not", "surprising", "as", "the", "sentences", "are", "on", "av", "-", "erage", "much", "longer", "and", "often", "use", "domain", "-", "specificlanguage", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Moreover", ",", "the", "target", "domains", "specifiedby", "the", "LCC", "gold", "standard", "are", "often", "much", "harder", "toidentify", "in", "the", "sentence", "as", "they", "are", "less", "preciselymatched", "to", "the", "sentence", "’s", "words", ".", "To", "provide", "insights", "into", "the", "adequacy", "of", "the", "eval", "-", "uation", "metrics", ",", "we", "evaluate", "their", "correlation", "withthe", "manual", "annotation", "decisions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "we", "have", "anordinal", "variable", "(", "correctly", "classified", ",", "wrongly", "clas", "-", "sified", ")", "and", "a", "continuous", "variable", "(", "KB", "score", "andembedding", "similarity", ")", ",", "we", "used", "Spearman", "’s", "rankcorrelation", "coefficient", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "achieve", "a", "correlation", "of0.43", "for", "the", "KB", "score", "and", "0.40", "for", "the", "embeddingsimilarity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Trigger", "here", "refers", "to", "words", "inthe", "input", "that", "are", "clearly", "related", "to", "the", "predictedsource", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "any", "mentions", "ofanimal", "-", "related", "terms", ",", "e.g.bullish", "mindsetortroughof", "poverty", ",", "led", "the", "model", "to", "predict", "“", "animals", "”", "assource", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "most", "common", "error", "class", "is", "be", "-", "ing", "wrong", "without", "any", "trigger", "in", "the", "sentence", ",", "fol", "-", "lowed", "by", "erroneous", "predictions", "of", "non", "-", "metaphoricand", "being", "wrong", "with", "trigger", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Some", "instances", "in", "-", "dicate", "a", "misinterpretation", "of", "words", ",", "e.g.dumb", "-", "foundedlikely", "leads", "to", "the", "entertaining", "predictionof", "“", "being_stupid", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "interesting", "errorscan", "be", "found", "in", "the", "category", "of", "wrong", "subelementmappings", ",", "where", "the", "model", "identifies", "the", "generalsource", "domain", "but", "fails", "to", "pick", "the", "correct", "elementof", "that", "domain", "for", "its", "prediction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "in", "the", "sentenceChina", "is", "a", "fertile", "ground", "for", "re", "-", "volt", ",", "the", "gold", "standard", "refers", "to", "“", "plants", "”", ",", "and", "themodel", "predicts", "“", "land", "”", ",", "which", "is", "in", "the", "same", "domainof", "cultivation", "but", "not", "entirely", "the", "correct", "domain", ".", "Similarly", ",", "when", "a", "metaphor", "involved", "movementand", "locations", "and", "the", "true", "source", "domain", "referredto", "only", "one", "of", "them", ",", "the", "model", "regularly", "pickedthe", "wrong", "subelement", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "the", "modelwrongly", "predicts", "EXISTANCE", "IS", "MOTION", "forthe", "sentenceIt", "came", "into", "existence", ",", "where", "the", "truesource", "domain", "would", "have", "been", "“", "location”", ".", "For", "the", "Spanish", "LCC", "data", ",", "one", "annotator", "classi-fied", "erroneous", "predictions", "according", "to", "our", "errortypology", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "vast", "majority", "of", "62.12", "%", "of", "errors", "werepredictions", "of", "non", "-", "metaphoric", "sequences", "whichshould", "be", "metaphoric", ",", "followed", "by", "19.70", "%", "wrongwithout", "trigger", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "trend", "to", "predict", "“", "family", "”", "withoutany", "trigger", "in", "the", "sentence", "for", "the", "target", "domain“government", "”", "in", "half", "of", "its", "occurrences", "could", "beobserved", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "13.64", "%", "cases", "of", "wrong", "with", "trig", "-", "ger", ",", "the", "model", "’s", "predictions", "mostly", "represented", "lit", "-", "eral", "English", "translations", "of", "context", "words", "from", "theSpanish", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "All", "source", "domain", "predictionswere", "made", "in", "English", ",", "which", "was", "expected", "giventhat", "the", "source", "and", "target", "domains", "in", "the", "promptwere", "also", "in", "English", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "total", ",", "12", "LCC", "sentenceswere", "disregarded", "since", "the", "gold", "standard", "was", "faulty.6", "DiscussionWe", "experimented", "with", "different", "GPT-3", "variants", "andprompts", "containing", "varying", "numbers", "of", "few", "-", "shotsamples", "to", "see", "whether", "GPT-3", "can", "generate", "thesource", "domain", "of", "a", "conceptual", "metaphor", "mappinggiven", "a", "context", "and", "a", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "re", "-", "sults", "were", "achieved", "with", "a", "long", "few", "-", "shot", "promptcontaining", "12", "example", "completions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "largestmodel", "variant", "davinci-002", "strongly", "outperformedthe", "next", "biggest", "variant", "and", "a", "fine", "-", "tuned", "GPT-3.We", "also", "saw", "that", "fine", "-", "tuning", "the", "model", "canlead", "to", "a", "decrease", "in", "expressiveness", ",", "that", "is", ",", "fewerunique", "source", "domains", "being", "generated", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "ourcase", ",", "this", "might", "be", "because", "the", "model", "fine", "-", "tunedon", "all", "data", "sees", "each", "source", "domain", "around", "threetimes", "per", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "might", "be", "possible", "to", "counter", "-", "act", "the", "decrease", "in", "expressiveness", "by", "increasing", "thetemperature", "parameter", ",", "thus", ",", "making", "less", "probablegenerations", "more", "likely", ".", "Manually", "coding", "the", "errors", "made", "by", "the", "model", ",", "we", "saw", "that", "the", "model", "often", "fabricates", "source", "do", "-", "mains", "for", "which", "no", "related", "words", "are", "present", "in", "thesentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Other", "common", "errors", "included", "predictinga", "literal", "meaning", "although", "a", "metaphor", "was", "present", ",", "and", "generating", "wrong", "source", "domains", "based", "ontrigger", "words", "that", "were", "not", "metaphorically", "related1024", "Error", "Code", "Definition", "Example", "%", "of", "AllErrorsSentence", "Wrong", "PredictionWrong", "with", "trig", "-", "gerThe", "model", "predicts", "awrong", "source", "domain", "dueto", "words", "in", "the", "sentence", "re", "-", "lated", "to", "that", "domainThe", "arms", "raceCOMPETITION", "ISWAR21.31Wrong", "withouttriggerThe", "model", "predicts", "awrong", "source", "domainwithout", "any", "noticeabletriggers", "for", "that", "domain", "inthe", "sentenceSally", "gave", "the", "ideato", "SamIDEAS", "ARE", "CHIL", "-", "DREN27.32Too", "literalThe", "model", "predicts", "a", "lit", "-", "eral", "relationship", "instead", "ofa", "metaphoric", "mappingI’m", "down", "to", "my", "bot", "-", "tom", "dollarMONEY", "IS", "IN", "-", "VESTMENT7.10Should", "be", "non", "-", "metaphoricThe", "model", "predicted", "ametaphoric", "source", "domaininstead", "of", "non", "-", "metaphoricThey", "saw", "him", "ad", "-", "vancingMOVING", "IS", "COM", "-", "ING7.65Should", "bemetaphoricThe", "model", "wrongly", "pre", "-", "dicted", "non", "-", "metaphoricUnder", "the", "cover", "ofdarknessDARKNESS", "ISnon", "-", "metaphoric25.14Too", "specificThe", "predicted", "metaphor", "ismore", "specific", "than", "whatthe", "sentence", "implies", ".", "He", "finally", "caughtup", "to", "scheduleSCHEDULE", "ISPEOPLE2.73Too", "generalThe", "predicted", "source", "do", "-", "main", "is", "too", "unspecificThe", "idea", "slippedthrough", "my", "fingersMIND", "IS", "SPACE", "1.09Wrong", "subele", "-", "ment", "mappingThe", "model", "predicts", "an", "as", "-", "pect", "of", "the", "correct", "sourcedomain", ",", "however", ",", "it", "is", "notthe", "exact", "elementLet", "’s", "strip", "away", "theunimportant", "detailsIMPORTANCE", "ISCLOTHING7.65Table", "3", ":", "The", "different", "types", "of", "errors", "made", "by", "the", "modelto", "the", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Discerning", "whether", "to", "predicta", "source", "domain", "for", "a", "given", "sentence", "or", "to", "label", "itas", "non", "-", "metaphoric", "seems", "to", "be", "quite", "challengingfor", "the", "model", "as", "well", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Analyzing", "the", "errors", "of", "largelanguage", "models", "as", "done", "here", "is", "essential", "to", "buildappropriate", "trust", "or", "distrust", "in", "the", "model", "and", "allowfor", "the", "use", "of", "error", "-", "correction", "methods", "in", "the", "fu", "-", "ture", ",", "for", "instance", ",", "the", "selection", "of", "better", "prompts", "ortraining", "samples", ".", "In", "the", "context", "of", "analyzing", "the", "model", "’s", "misclas", "-", "sifications", ",", "we", "also", "experienced", "issues", "with", "thedataset", ",", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "unintuitive", "metaphor", "mappings", "orlack", "of", "contextual", "clues", "for", "the", "provided", "targetdomain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "dataset", "’s", "quality", "strongly", "affectedthe", "Spanish", "test", "results", "and", "clearly", "indicated", "thatmore", "multilingual", "resources", "for", "metaphor", "identi-fication", "are", "needed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "difference", "in", "the", "natureand", "quality", "of", "the", "datasets", "is", "also", "the", "main", "reasonfor", "the", "strong", "variation", "in", "accuracy", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O" ]

[ "TheMetaphor", "List", "dataset", "provides", "prototypical", ",", "gen", "-", "eral", "language", "examples", ",", "while", "the", "LCC", "datasetannotated", "real", "-", "world", ",", "domain", "-", "specific", "expert", "lan", "-", "guage", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "affects", "the", "complexity", "as", "well", "as", "thelength", "of", "sentences", ",", "both", "contributing", "to", "the", "differ", "-", "ence", "in", "accuracy", "across", "datasets", ".", "Application", ".", "Using", "GPT-3", "to", "analyze", "metaphorsused", "in", "an", "unlabeled", "corpus", "comes", "with", "two", "prob", "-", "lems", ":", "(", "1", ")", "we", "do", "not", "know", "what", "target", "domains", "arethe", "right", "ones", "to", "provide", "to", "the", "model", ",", "(", "2", ")", "there", "willbe", "an", "overwhelming", "amount", "of", "output", "given", "that1025", "most", "sentences", "contain", "at", "least", "subtle", "metaphoriclanguage", "that", "will", "largely", "not", "even", "be", "relevant", "to", "thedomain", "we", "are", "interested", "in", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "it", "would", "beuseful", "to", "first", "filter", "sentences", "based", "on", "seed", "wordswhose", "usage", "interests", "us", "or", "that", "belong", "to", "a", "spe", "-", "cific", "target", "domain", "we", "want", "to", "analyze", "(", "Wachowiaket", "al", ".", ",2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "such", "an", "approach", "already", "narrowsdown", "the", "candidate", "sentences", "to", "a", "pre", "-", "specifiedtarget", "domain", ",", "we", "can", "include", "that", "target", "domainin", "the", "prompt", "for", "the", "language", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Lastly", ",", "itmight", "help", "to", "restrict", "the", "context", "window", "aroundthe", "words", "of", "interest", "so", "that", "the", "model", "is", "not", "dis", "-", "tracted", "by", "other", "metaphors", "in", "the", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "How", "-", "ever", ",", "to", "confirm", "this", ",", "further", "research", "is", "needed", ".", "Considering", "precise", "element", "mappings", ".", "As", "thecapabilities", "of", "large", "neural", "language", "models", "con", "-", "tinue", "to", "grow", ",", "it", "will", "be", "interesting", "to", "see", "if", "they", "canidentify", "not", "only", "the", "correct", "source", "domains", "butalso", "precise", "element", "-", "wise", "mappings", "between", "theconcepts", "of", "the", "target", "and", "source", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "ex", "-", "ample", ",", "the", "conceptual", "metaphor", "LOVE", "IS", "A", "JOUR", "-", "NEY", "involves", "mapping", "lovers", "to", "travelers", ",", "difficul", "-", "ties", "to", "roadblocks", ",", "and", "progress", "to", "distance", "traveledforward", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Querying", "such", "an", "element", "-", "wise", "mappingcould", "be", "facilitated", "through", "a", "set", "of", "the", "target", "do", "-", "main", "’s", "core", "elements", "being", "provided", "to", "the", "model", ".", "OpenAI", "Transparency", "Issues", ".", "An", "issue", "with", "re", "-", "searching", "the", "capabilities", "of", "large", "language", "models", ",", "such", "as", "GPT-3", ",", "is", "the", "accessibility", "and", "transparency", ".", "While", "GPT-3", "variants", "are", "easily", "accessible", "via", "anAPI", ",", "the", "model", "stays", "a", "black", "-", "box", ",", "and", "researcherscan", "not", "investigate", "the", "specific", "model", "weights", ".", "Moreover", ",", "there", "is", "no", "explicit", "mapping", "available", "ofhow", "the", "models", "advertised", "on", "the", "website", "relate", "tothose", "described", "in", "OpenAI", "’s", "papers", "(", "Leike,2022", ")", ".Lastly", ",", "the", "model", "variant", "accessible", "for", "fine", "-", "tuningdiffers", "from", "the", "one", "accessible", "for", "direct", "zero-", "andfew", "-", "shot", "text", "generation", ",", "which", "might", "also", "explainthe", "drop", "in", "performance", "observed", "in", "our", "metaphorextraction", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "other", "hand", ",", "comparablemodels", "for", "which", "the", "weights", "are", "publicly", "released", ",", "such", "as", "BLOOM", "(", "Luccioni", "et", "al", ".", ",2022", ")", "or", "OPT-175", "(", "Zhang", "et", "al", ".", ",2022", ")", ",", "have", "the", "issue", "that", "theyare", "not", "hosted", "anywhere", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "researchers", "mustprovide", "the", "infrastructure", "to", "run", "them", ",", "which", "isonly", "possible", "for", "very", "few", "academic", "institutions.7", "ConclusionWe", "analyzed", "how", "well", "GPT-3", "can", "identify", "sourcedomains", "of", "metaphors", "in", "natural", "language", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Acrossthree", "different", "datasets", "in", "English", "and", "Spanish", ",", "GPT-3", "predicts", "the", "source", "domain", "with", "an", "accuracyof", "60.22", "%", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "performance", "was", "achievedgiven", "12", "few", "-", "shot", "examples", "in", "the", "prompt", ",", "al", "-", "though", "the", "average", "performance", "was", "highest", "with4", "to", "8", "few", "-", "shot", "examples", "." ]

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O" ]

[ "However", ",", "the", "modelstill", "suffers", "from", "specific", "error", "types", ",", "such", "as", "hal", "-", "lucinating", "domains", "without", "any", "indicators", "beingpresent", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "believe", "future", "iterations", "of", "large", "lan", "-", "guage", "models", "like", "GPT-3", "will", "become", "importanttools", "in", "computational", "metaphor", "analysis", ",", "whereone", "investigates", "conceptual", "metaphors", "in", "differentdomains", ",", "for", "instance", ",", "literature", "or", "political", "dis", "-", "course", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "future", ",", "we", "want", "to", "experiment", "withusing", "large", "language", "models", "to", "generate", "completemetaphors", ",", "i.e.", ",", "generate", "both", ",", "source", "domain", "andtarget", "domain", ",", "given", "a", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "plan", "touse", "the", "developed", "techniques", "in", "corpus", "analyses", ".", "LimitationsThe", "approach", "of", "identifying", "source", "domains", "relieson", "having", "a", "contextual", "sentence", "but", "also", "a", "targetdomain", "available", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "datasets", "available", "for", "evalu", "-", "ation", "do", "not", "always", "provide", "precise", "target", "domains", ".", "For", "example", ",", "the", "LCC", "dataset", "provides", "the", "targetdomaingun", "ownershipfor", "the", "sentenceI", "just", "don’tknow", "what", "it", "will", "take", "for", "people", "in", "this", "country", "toembrace", "gun", "safety", ",", "or", "the", "target", "domainclimatechangefor", "the", "sentenceThe", "event", "is", "billed", "as", "thelargest", "meeting", "of", "influential", "figures", "within", "the", "re", "-", "newable", "energy", "field", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "mismatch", "often", "makesit", "difficult", "to", "provide", "precise", "source", "domains", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Asimilar", "problem", "also", "exists", "when", "wanting", "to", "useour", "source", "domain", "prediction", "approach", "in", "the", "wildas", "we", "have", "to", "somehow", "provide", "the", "model", "witha", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "we", "can", "provide", "a", "targetdomain", "by", "selecting", "sentences", "based", "on", "seed", "-", "wordlists", "designed", "for", "specific", "domains", ",", "we", "do", "not", "knowhow", "precisely", "this", "matches", "the", "target", "domain", "occur", "-", "ring", "in", "the", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]