Datasets:

anlp

/

annotation1_wo_elimination

like 0

Follow

anlp team project 4

[ "The", "model", "achievedan", "accuracy", "of", "81.33", "%", "on", "the", "Metaphor", "List", "cor", "-", "pus", ",", "53.74", "%", "on", "the", "English", "part", "of", "the", "LCC", "corpus", ",", "and", "34.65", "%", "on", "the", "Spanish", "part", "of", "the", "LCC", "cor", "-", "pus", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", ",", "the", "model", "was", "able", "to", "achieve", "anaccuracy", "of", "42.11", "%", "in", "predicting", "a", "sentence", "is", "non", "-", "metaphoric", "instead", "of", "predicting", "a", "source", "domain", ".", "Averaged", "by", "sample", ",", "this", "results", "in", "an", "accuracy", "of60.22", "%", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "decrease", "in", "performance", "on", "the", "LCCtest", "set", "is", "not", "surprising", "as", "the", "sentences", "are", "on", "av", "-", "erage", "much", "longer", "and", "often", "use", "domain", "-", "specificlanguage", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Moreover", ",", "the", "target", "domains", "specifiedby", "the", "LCC", "gold", "standard", "are", "often", "much", "harder", "toidentify", "in", "the", "sentence", "as", "they", "are", "less", "preciselymatched", "to", "the", "sentence", "’s", "words", ".", "To", "provide", "insights", "into", "the", "adequacy", "of", "the", "eval", "-", "uation", "metrics", ",", "we", "evaluate", "their", "correlation", "withthe", "manual", "annotation", "decisions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "we", "have", "anordinal", "variable", "(", "correctly", "classified", ",", "wrongly", "clas", "-", "sified", ")", "and", "a", "continuous", "variable", "(", "KB", "score", "andembedding", "similarity", ")", ",", "we", "used", "Spearman", "’s", "rankcorrelation", "coefficient", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "achieve", "a", "correlation", "of0.43", "for", "the", "KB", "score", "and", "0.40", "for", "the", "embeddingsimilarity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Trigger", "here", "refers", "to", "words", "inthe", "input", "that", "are", "clearly", "related", "to", "the", "predictedsource", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "any", "mentions", "ofanimal", "-", "related", "terms", ",", "e.g.bullish", "mindsetortroughof", "poverty", ",", "led", "the", "model", "to", "predict", "“", "animals", "”", "assource", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "most", "common", "error", "class", "is", "be", "-", "ing", "wrong", "without", "any", "trigger", "in", "the", "sentence", ",", "fol", "-", "lowed", "by", "erroneous", "predictions", "of", "non", "-", "metaphoricand", "being", "wrong", "with", "trigger", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Some", "instances", "in", "-", "dicate", "a", "misinterpretation", "of", "words", ",", "e.g.dumb", "-", "foundedlikely", "leads", "to", "the", "entertaining", "predictionof", "“", "being_stupid", "”", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "interesting", "errorscan", "be", "found", "in", "the", "category", "of", "wrong", "subelementmappings", ",", "where", "the", "model", "identifies", "the", "generalsource", "domain", "but", "fails", "to", "pick", "the", "correct", "elementof", "that", "domain", "for", "its", "prediction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "in", "the", "sentenceChina", "is", "a", "fertile", "ground", "for", "re", "-", "volt", ",", "the", "gold", "standard", "refers", "to", "“", "plants", "”", ",", "and", "themodel", "predicts", "“", "land", "”", ",", "which", "is", "in", "the", "same", "domainof", "cultivation", "but", "not", "entirely", "the", "correct", "domain", ".", "Similarly", ",", "when", "a", "metaphor", "involved", "movementand", "locations", "and", "the", "true", "source", "domain", "referredto", "only", "one", "of", "them", ",", "the", "model", "regularly", "pickedthe", "wrong", "subelement", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "the", "modelwrongly", "predicts", "EXISTANCE", "IS", "MOTION", "forthe", "sentenceIt", "came", "into", "existence", ",", "where", "the", "truesource", "domain", "would", "have", "been", "“", "location”", ".", "For", "the", "Spanish", "LCC", "data", ",", "one", "annotator", "classi-fied", "erroneous", "predictions", "according", "to", "our", "errortypology", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "vast", "majority", "of", "62.12", "%", "of", "errors", "werepredictions", "of", "non", "-", "metaphoric", "sequences", "whichshould", "be", "metaphoric", ",", "followed", "by", "19.70", "%", "wrongwithout", "trigger", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "trend", "to", "predict", "“", "family", "”", "withoutany", "trigger", "in", "the", "sentence", "for", "the", "target", "domain“government", "”", "in", "half", "of", "its", "occurrences", "could", "beobserved", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "13.64", "%", "cases", "of", "wrong", "with", "trig", "-", "ger", ",", "the", "model", "’s", "predictions", "mostly", "represented", "lit", "-", "eral", "English", "translations", "of", "context", "words", "from", "theSpanish", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "All", "source", "domain", "predictionswere", "made", "in", "English", ",", "which", "was", "expected", "giventhat", "the", "source", "and", "target", "domains", "in", "the", "promptwere", "also", "in", "English", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "total", ",", "12", "LCC", "sentenceswere", "disregarded", "since", "the", "gold", "standard", "was", "faulty.6", "DiscussionWe", "experimented", "with", "different", "GPT-3", "variants", "andprompts", "containing", "varying", "numbers", "of", "few", "-", "shotsamples", "to", "see", "whether", "GPT-3", "can", "generate", "thesource", "domain", "of", "a", "conceptual", "metaphor", "mappinggiven", "a", "context", "and", "a", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "re", "-", "sults", "were", "achieved", "with", "a", "long", "few", "-", "shot", "promptcontaining", "12", "example", "completions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "largestmodel", "variant", "davinci-002", "strongly", "outperformedthe", "next", "biggest", "variant", "and", "a", "fine", "-", "tuned", "GPT-3.We", "also", "saw", "that", "fine", "-", "tuning", "the", "model", "canlead", "to", "a", "decrease", "in", "expressiveness", ",", "that", "is", ",", "fewerunique", "source", "domains", "being", "generated", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "ourcase", ",", "this", "might", "be", "because", "the", "model", "fine", "-", "tunedon", "all", "data", "sees", "each", "source", "domain", "around", "threetimes", "per", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "might", "be", "possible", "to", "counter", "-", "act", "the", "decrease", "in", "expressiveness", "by", "increasing", "thetemperature", "parameter", ",", "thus", ",", "making", "less", "probablegenerations", "more", "likely", ".", "Manually", "coding", "the", "errors", "made", "by", "the", "model", ",", "we", "saw", "that", "the", "model", "often", "fabricates", "source", "do", "-", "mains", "for", "which", "no", "related", "words", "are", "present", "in", "thesentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Other", "common", "errors", "included", "predictinga", "literal", "meaning", "although", "a", "metaphor", "was", "present", ",", "and", "generating", "wrong", "source", "domains", "based", "ontrigger", "words", "that", "were", "not", "metaphorically", "related1024", "Error", "Code", "Definition", "Example", "%", "of", "AllErrorsSentence", "Wrong", "PredictionWrong", "with", "trig", "-", "gerThe", "model", "predicts", "awrong", "source", "domain", "dueto", "words", "in", "the", "sentence", "re", "-", "lated", "to", "that", "domainThe", "arms", "raceCOMPETITION", "ISWAR21.31Wrong", "withouttriggerThe", "model", "predicts", "awrong", "source", "domainwithout", "any", "noticeabletriggers", "for", "that", "domain", "inthe", "sentenceSally", "gave", "the", "ideato", "SamIDEAS", "ARE", "CHIL", "-", "DREN27.32Too", "literalThe", "model", "predicts", "a", "lit", "-", "eral", "relationship", "instead", "ofa", "metaphoric", "mappingI’m", "down", "to", "my", "bot", "-", "tom", "dollarMONEY", "IS", "IN", "-", "VESTMENT7.10Should", "be", "non", "-", "metaphoricThe", "model", "predicted", "ametaphoric", "source", "domaininstead", "of", "non", "-", "metaphoricThey", "saw", "him", "ad", "-", "vancingMOVING", "IS", "COM", "-", "ING7.65Should", "bemetaphoricThe", "model", "wrongly", "pre", "-", "dicted", "non", "-", "metaphoricUnder", "the", "cover", "ofdarknessDARKNESS", "ISnon", "-", "metaphoric25.14Too", "specificThe", "predicted", "metaphor", "ismore", "specific", "than", "whatthe", "sentence", "implies", ".", "He", "finally", "caughtup", "to", "scheduleSCHEDULE", "ISPEOPLE2.73Too", "generalThe", "predicted", "source", "do", "-", "main", "is", "too", "unspecificThe", "idea", "slippedthrough", "my", "fingersMIND", "IS", "SPACE", "1.09Wrong", "subele", "-", "ment", "mappingThe", "model", "predicts", "an", "as", "-", "pect", "of", "the", "correct", "sourcedomain", ",", "however", ",", "it", "is", "notthe", "exact", "elementLet", "’s", "strip", "away", "theunimportant", "detailsIMPORTANCE", "ISCLOTHING7.65Table", "3", ":", "The", "different", "types", "of", "errors", "made", "by", "the", "modelto", "the", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Discerning", "whether", "to", "predicta", "source", "domain", "for", "a", "given", "sentence", "or", "to", "label", "itas", "non", "-", "metaphoric", "seems", "to", "be", "quite", "challengingfor", "the", "model", "as", "well", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Analyzing", "the", "errors", "of", "largelanguage", "models", "as", "done", "here", "is", "essential", "to", "buildappropriate", "trust", "or", "distrust", "in", "the", "model", "and", "allowfor", "the", "use", "of", "error", "-", "correction", "methods", "in", "the", "fu", "-", "ture", ",", "for", "instance", ",", "the", "selection", "of", "better", "prompts", "ortraining", "samples", ".", "In", "the", "context", "of", "analyzing", "the", "model", "’s", "misclas", "-", "sifications", ",", "we", "also", "experienced", "issues", "with", "thedataset", ",", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "unintuitive", "metaphor", "mappings", "orlack", "of", "contextual", "clues", "for", "the", "provided", "targetdomain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "dataset", "’s", "quality", "strongly", "affectedthe", "Spanish", "test", "results", "and", "clearly", "indicated", "thatmore", "multilingual", "resources", "for", "metaphor", "identi-fication", "are", "needed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "difference", "in", "the", "natureand", "quality", "of", "the", "datasets", "is", "also", "the", "main", "reasonfor", "the", "strong", "variation", "in", "accuracy", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O" ]

[ "TheMetaphor", "List", "dataset", "provides", "prototypical", ",", "gen", "-", "eral", "language", "examples", ",", "while", "the", "LCC", "datasetannotated", "real", "-", "world", ",", "domain", "-", "specific", "expert", "lan", "-", "guage", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "affects", "the", "complexity", "as", "well", "as", "thelength", "of", "sentences", ",", "both", "contributing", "to", "the", "differ", "-", "ence", "in", "accuracy", "across", "datasets", ".", "Application", ".", "Using", "GPT-3", "to", "analyze", "metaphorsused", "in", "an", "unlabeled", "corpus", "comes", "with", "two", "prob", "-", "lems", ":", "(", "1", ")", "we", "do", "not", "know", "what", "target", "domains", "arethe", "right", "ones", "to", "provide", "to", "the", "model", ",", "(", "2", ")", "there", "willbe", "an", "overwhelming", "amount", "of", "output", "given", "that1025", "most", "sentences", "contain", "at", "least", "subtle", "metaphoriclanguage", "that", "will", "largely", "not", "even", "be", "relevant", "to", "thedomain", "we", "are", "interested", "in", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "it", "would", "beuseful", "to", "first", "filter", "sentences", "based", "on", "seed", "wordswhose", "usage", "interests", "us", "or", "that", "belong", "to", "a", "spe", "-", "cific", "target", "domain", "we", "want", "to", "analyze", "(", "Wachowiaket", "al", ".", ",2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "such", "an", "approach", "already", "narrowsdown", "the", "candidate", "sentences", "to", "a", "pre", "-", "specifiedtarget", "domain", ",", "we", "can", "include", "that", "target", "domainin", "the", "prompt", "for", "the", "language", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Lastly", ",", "itmight", "help", "to", "restrict", "the", "context", "window", "aroundthe", "words", "of", "interest", "so", "that", "the", "model", "is", "not", "dis", "-", "tracted", "by", "other", "metaphors", "in", "the", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "How", "-", "ever", ",", "to", "confirm", "this", ",", "further", "research", "is", "needed", ".", "Considering", "precise", "element", "mappings", ".", "As", "thecapabilities", "of", "large", "neural", "language", "models", "con", "-", "tinue", "to", "grow", ",", "it", "will", "be", "interesting", "to", "see", "if", "they", "canidentify", "not", "only", "the", "correct", "source", "domains", "butalso", "precise", "element", "-", "wise", "mappings", "between", "theconcepts", "of", "the", "target", "and", "source", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "ex", "-", "ample", ",", "the", "conceptual", "metaphor", "LOVE", "IS", "A", "JOUR", "-", "NEY", "involves", "mapping", "lovers", "to", "travelers", ",", "difficul", "-", "ties", "to", "roadblocks", ",", "and", "progress", "to", "distance", "traveledforward", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Querying", "such", "an", "element", "-", "wise", "mappingcould", "be", "facilitated", "through", "a", "set", "of", "the", "target", "do", "-", "main", "’s", "core", "elements", "being", "provided", "to", "the", "model", ".", "OpenAI", "Transparency", "Issues", ".", "An", "issue", "with", "re", "-", "searching", "the", "capabilities", "of", "large", "language", "models", ",", "such", "as", "GPT-3", ",", "is", "the", "accessibility", "and", "transparency", ".", "While", "GPT-3", "variants", "are", "easily", "accessible", "via", "anAPI", ",", "the", "model", "stays", "a", "black", "-", "box", ",", "and", "researcherscan", "not", "investigate", "the", "specific", "model", "weights", ".", "Moreover", ",", "there", "is", "no", "explicit", "mapping", "available", "ofhow", "the", "models", "advertised", "on", "the", "website", "relate", "tothose", "described", "in", "OpenAI", "’s", "papers", "(", "Leike,2022", ")", ".Lastly", ",", "the", "model", "variant", "accessible", "for", "fine", "-", "tuningdiffers", "from", "the", "one", "accessible", "for", "direct", "zero-", "andfew", "-", "shot", "text", "generation", ",", "which", "might", "also", "explainthe", "drop", "in", "performance", "observed", "in", "our", "metaphorextraction", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "other", "hand", ",", "comparablemodels", "for", "which", "the", "weights", "are", "publicly", "released", ",", "such", "as", "BLOOM", "(", "Luccioni", "et", "al", ".", ",2022", ")", "or", "OPT-175", "(", "Zhang", "et", "al", ".", ",2022", ")", ",", "have", "the", "issue", "that", "theyare", "not", "hosted", "anywhere", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "researchers", "mustprovide", "the", "infrastructure", "to", "run", "them", ",", "which", "isonly", "possible", "for", "very", "few", "academic", "institutions.7", "ConclusionWe", "analyzed", "how", "well", "GPT-3", "can", "identify", "sourcedomains", "of", "metaphors", "in", "natural", "language", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Acrossthree", "different", "datasets", "in", "English", "and", "Spanish", ",", "GPT-3", "predicts", "the", "source", "domain", "with", "an", "accuracyof", "60.22", "%", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "performance", "was", "achievedgiven", "12", "few", "-", "shot", "examples", "in", "the", "prompt", ",", "al", "-", "though", "the", "average", "performance", "was", "highest", "with4", "to", "8", "few", "-", "shot", "examples", "." ]

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O" ]

[ "However", ",", "the", "modelstill", "suffers", "from", "specific", "error", "types", ",", "such", "as", "hal", "-", "lucinating", "domains", "without", "any", "indicators", "beingpresent", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "believe", "future", "iterations", "of", "large", "lan", "-", "guage", "models", "like", "GPT-3", "will", "become", "importanttools", "in", "computational", "metaphor", "analysis", ",", "whereone", "investigates", "conceptual", "metaphors", "in", "differentdomains", ",", "for", "instance", ",", "literature", "or", "political", "dis", "-", "course", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "future", ",", "we", "want", "to", "experiment", "withusing", "large", "language", "models", "to", "generate", "completemetaphors", ",", "i.e.", ",", "generate", "both", ",", "source", "domain", "andtarget", "domain", ",", "given", "a", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "plan", "touse", "the", "developed", "techniques", "in", "corpus", "analyses", ".", "LimitationsThe", "approach", "of", "identifying", "source", "domains", "relieson", "having", "a", "contextual", "sentence", "but", "also", "a", "targetdomain", "available", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "datasets", "available", "for", "evalu", "-", "ation", "do", "not", "always", "provide", "precise", "target", "domains", ".", "For", "example", ",", "the", "LCC", "dataset", "provides", "the", "targetdomaingun", "ownershipfor", "the", "sentenceI", "just", "don’tknow", "what", "it", "will", "take", "for", "people", "in", "this", "country", "toembrace", "gun", "safety", ",", "or", "the", "target", "domainclimatechangefor", "the", "sentenceThe", "event", "is", "billed", "as", "thelargest", "meeting", "of", "influential", "figures", "within", "the", "re", "-", "newable", "energy", "field", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "mismatch", "often", "makesit", "difficult", "to", "provide", "precise", "source", "domains", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Asimilar", "problem", "also", "exists", "when", "wanting", "to", "useour", "source", "domain", "prediction", "approach", "in", "the", "wildas", "we", "have", "to", "somehow", "provide", "the", "model", "witha", "target", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "we", "can", "provide", "a", "targetdomain", "by", "selecting", "sentences", "based", "on", "seed", "-", "wordlists", "designed", "for", "specific", "domains", ",", "we", "do", "not", "knowhow", "precisely", "this", "matches", "the", "target", "domain", "occur", "-", "ring", "in", "the", "sentence", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]