Datasets:

anlp

/

annotation1_wo_elimination

like 0

Follow

anlp team project 4

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "bed", "on", "powerboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "78.5", "%", "Table", "4", ":", "A", "random", "selected", "sample", "that", "BERT", "model", "failed", "to", "defend", "against", "the", "Textfooler", "Attack", "in", "the", "IMDB", "dataset", "and", "Text", "Pure", "(", "Text", "Adversarial", "Purification", ")", "succeed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Adv", "." ]

[ "O", "O" ]

[ "of", "BERT", "is", "the", "adversarial", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ "Adv", "." ]

[ "O", "O" ]

[ "of", "Text", "Pure", "is", "the", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "but", "failed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "purified", "texts", "are", "also", "listed", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "Similarly", ",", "the", "multi", "-", "recovery", "process", "is", "important", "in", "obtaining", "high", "-", "quality", "purification", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "can", "observe", "that", "one", "-", "time", "recovery", "can", "not", "achieve", "promising", "defense", "performances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2", ")", "Combining", "classifiers", "is", "effective", ":", "we", "can", "observe", "that", "when", "we", "use", "trained", "classifiers", "and", "masked", "language", "models", ",", "the", "defense", "perfor-", "mances", "are", "better", "than", "using", "fine", "-", "tuned", "classifier", "and", "vanilla", "BERT", "as", "a", "masked", "language", "model", ",", "indicating", "that", "such", "a", "combined", "training", "process", "is", "helpful", "in", "obtaining", "more", "strong", "defense", "systems", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Also", ",", "with", "gradient", "-", "based", "adversarial", "training", ",", "the", "purification", "process", "can", "obtain", "a", "further", "boost", ",", "indi-", "cating", "that", "our", "proposed", "text", "purification", "algorithm", "can", "be", "used", "together", "with", "previous", "defense", "meth-", "ods", "as", "an", "advanced", "defense", "system", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.6.2", "Example", "of", "Purification", "Results", "As", "seen", "in", "Table", "4", ",", "we", "construct", "multiple", "recoveries", "and", "use", "the", "averaged", "score", "as", "the", "final", "classifica-", "tion", "result", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "a", "purification", "process", "is", "effective", "compared", "with", "vanilla", "fine", "-", "tuned", "BERT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "We", "can", "observe", "that", "the", "adversarial", "sample", "that", "successfully", "attacked", "the", "vanilla", "BERT", "model", "only", "achieves", "this", "by", "replacing", "only", "a", "few", "tokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "with", "the", "purification", "process", ",", "the", "attack", "algorithm", "is", "struggling", "in", "finding", "effective", "substitutions", "to", "achieve", "a", "successful", "attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Even", "replacing", "a", "large", "number", "of", "tokens", "that", "seriously", "hurt", "the", "semantics", "of", "the", "input", "texts", ",", "with", "the", "purification", "process", "in-", "volved", ",", "the", "classifier", "can", "still", "resist", "the", "adversarialeffect", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "by", "observing", "the", "purified", "texts", ",", "we", "can", "find", "that", "the", "purified", "texts", "can", "make", "predictions", "correctly", "though", "some", "substitutes", "still", "exist", "in", "the", "purified", "texts", ",", "indicating", "that", "making", "predictions", "based", "on", "purified", "texts", "using", "the", "combined", "trained", "classifier", "can", "obtain", "a", "promising", "defense", "perfor-", "mance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "our", "proposed", "method", ",", "though", "is", "not", "a", "plug", "-", "and", "-", "play", "system", ",", "can", "be", "used", "as", "a", "gen-", "eral", "system", "as", "a", "defense", "against", "substitution", "-", "based", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "introduce", "a", "textual", "adversar-", "ial", "purification", "algorithm", "as", "a", "defense", "against", "substitution", "-", "based", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "utilize", "the", "mask", "-", "infill", "ability", "of", "pre", "-", "trained", "models", "to", "re-", "cover", "noisy", "texts", "and", "use", "these", "purified", "texts", "to", "make", "predictions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Experiments", "show", "that", "the", "pu-", "rification", "method", "is", "effective", "in", "defending", "strong", "adversarial", "attacks", "without", "acknowledging", "the", "sub-", "stitution", "range", "of", "the", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "are", "the", "first", "to", "consider", "the", "adversarial", "purification", "method", "with", "a", "multiple", "-", "recovering", "strategy", "in", "the", "text", "domain", "while", "previous", "successes", "of", "adversarial", "purifica-", "tion", "strategies", "usually", "focus", "on", "the", "image", "field", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "hope", "that", "the", "adversarial", "purification", "method", "can", "be", "further", "explored", "in", "NLP", "applica-", "tions", "as", "a", "powerful", "defense", "strategy.345", "Limitations", "In", "this", "paper", ",", "we", "discuss", "an", "important", "topic", "in", "the", "NLP", "field", ",", "the", "defense", "against", "adversarial", "attacks", "in", "NLP", "applications", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "provide", "a", "strong", "defense", "strategy", "against", "the", "most", "widely", "used", "word", "substi-", "tution", "attacks", "in", "the", "NLP", "field", ",", "which", "is", "limited", "in", "several", "directions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•We", "are", "testing", "defense", "strategies", "using", "down-", "stream", "task", "models", "such", "as", "BERT", "and", "RoBERTa", ",", "and", "the", "purification", "tool", "is", "a", "model", "with", "a", "mask", "-", "filling", "ability", "such", "as", "BERT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Such", "a", "process", "can", "be", "further", "improved", "with", "strong", "models", "such", "as", "large", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•We", "study", "the", "concept", "of", "adversarial", "purifica-", "tion", "in", "the", "adversarial", "attack", "scenarios", "with", "word", "-", "substitution", "attacks", "on", "small", "fine", "-", "tuned", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "concept", "of", "adversarial", "purifica-", "tion", "can", "be", "further", "expanded", "to", "various", "NLP", "applications", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "the", "purification", "of", "natural", "language", "can", "be", "used", "in", "malicious", "text", "purification", "which", "is", "more", "suitable", "in", "applica-", "tions", "with", "large", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Acknowledgement", "This", "work", "was", "supported", "by", "the", "National", "Natu-", "ral", "Science", "Foundation", "of", "China", "(", "No", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "62236004", "and", "No", "." ]

[ "O", "O", "O", "O" ]

[ "62022027", ")", "and", "CAAI", "-", "Huawei", "MindSpore", "Open", "Fund", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "References", "Moustafa", "Alzantot", ",", "Yash", "Sharma", ",", "Ahmed", "Elgohary", ",", "Bo-", "Jhang", "Ho", ",", "Mani", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Srivastava", ",", "and", "Kai", "-", "Wei", "Chang", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2018", "." ]

[ "O", "O" ]

[ "Generating", "natural", "language", "adversarial", "exam-", "ples", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1804.07998", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Nicholas", "Carlini", "and", "David", "A", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Wagner", "." ]

[ "O", "O" ]

[ "2016", "." ]

[ "O", "O" ]

[ "Towards", "evaluating", "the", "robustness", "of", "neural", "networks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1608.04644", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Daniel", "Cer", ",", "Yinfei", "Yang", ",", "Sheng", "-", "yi", "Kong", ",", "Nan", "Hua", ",", "Nicole", "Limtiaco", ",", "Rhomni", "St", "John", ",", "Noah", "Constant", ",", "Mario", "Guajardo", "-", "Cespedes", ",", "Steve", "Yuan", ",", "Chris", "Tar", ",", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2018", "." ]

[ "O", "O" ]

[ "Universal", "sentence", "encoder", "." ]

[ "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1803.11175", "." ]

[ "O", "O", "O", "O" ]

[ "Yong", "Cheng", ",", "Lu", "Jiang", ",", "and", "Wolfgang", "Macherey", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Robust", "neural", "machine", "translation", "with", "doubly", "adver-", "sarial", "inputs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1906.02443", "." ]

[ "O", "O", "O", "O" ]

[ "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2018", "." ]

[ "O", "O" ]

[ "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1810.04805.Xinshuai", "Dong", ",", "Hong", "Liu", ",", "Rongrong", "Ji", ",", "and", "Anh", "Tuan", "Luu", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2021", "." ]

[ "O", "O" ]

[ "Towards", "robustness", "against", "natural", "lan-", "guage", "word", "substitutions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "International", "Confer-", "ence", "on", "Learning", "Representations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Javid", "Ebrahimi", ",", "Anyi", "Rao", ",", "Daniel", "Lowd", ",", "and", "De-", "jing", "Dou", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2017", "." ]

[ "O", "O" ]

[ "Hotflip", ":", "White", "-", "box", "adversarial", "examples", "for", "text", "classification", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1712.06751", "." ]

[ "O", "O", "O", "O" ]

[ "Siddhant", "Garg", "and", "Goutham", "Ramakrishnan", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "2020", "." ]

[ "O", "O" ]

[ "Bae", ":", "Bert", "-", "based", "adversarial", "examples", "for", "text", "classifica-", "tion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:2004.01970", "." ]

[ "O", "O", "O", "O" ]

[ "Ian", "J", "Goodfellow", ",", "Jonathon", "Shlens", ",", "and", "Christian", "Szegedy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2014", "." ]

[ "O", "O" ]

[ "Explaining", "and", "harnessing", "adver-", "sarial", "examples", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1412.6572", "." ]

[ "O", "O", "O", "O" ]

[ "Po", "-", "Sen", "Huang", ",", "Robert", "Stanforth", ",", "Johannes", "Welbl", ",", "Chris", "Dyer", ",", "Dani", "Yogatama", ",", "Sven", "Gowal", ",", "Krish-", "namurthy", "Dvijotham", ",", "and", "Pushmeet", "Kohli", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Achieving", "verified", "robustness", "to", "symbol", "substitu-", "tions", "via", "interval", "bound", "propagation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1909.01492", "." ]

[ "O", "O", "O", "O" ]

[ "Robin", "Jia", ",", "Aditi", "Raghunathan", ",", "Kerem", "Göksel", ",", "and", "Percy", "Liang", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Certified", "robustness", "to", "adversarial", "word", "substitutions", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1909.00986", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Di", "Jin", ",", "Zhijing", "Jin", ",", "Joey", "Tianyi", "Zhou", ",", "and", "Peter", "Szolovits", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Is", "BERT", "really", "robust", "?" ]

[ "O", "O", "O", "O", "O" ]

[ "natural", "language", "attack", "on", "text", "classification", "and", "entailment", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1907.11932", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Yann", "LeCun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "M", "Ranzato", ",", "and", "F", "Huang", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2006", "." ]

[ "O", "O" ]

[ "A", "tutorial", "on", "energy", "-", "based", "learn-", "ing", ".", "Predicting", "structured", "data", ",", "1", "(", "0", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Linyang", "Li", ",", "Ruotian", "Ma", ",", "Qipeng", "Guo", ",", "Xiangyang", "Xue", ",", "and", "Xipeng", "Qiu", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2020", "." ]

[ "O", "O" ]

[ "Bert", "-", "attack", ":", "Adver-", "sarial", "attack", "against", "bert", "using", "bert", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:2004.09984", "." ]

[ "O", "O", "O", "O" ]

[ "Linyang", "Li", "and", "Xipeng", "Qiu", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "2020", "." ]

[ "O", "O" ]

[ "Textat", ":", "Ad-", "versarial", "training", "for", "natural", "language", "understand-", "ing", "with", "token", "-", "level", "perturbation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:2004.14543", "." ]

[ "O", "O", "O", "O" ]

[ "Zongyi", "Li", ",", "Jianhan", "Xu", ",", "Jiehang", "Zeng", ",", "Linyang", "Li", ",", "Xiao-", "qing", "Zheng", ",", "Qi", "Zhang", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Cho", "-", "Jui", "Hsieh", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2021", "." ]

[ "O", "O" ]

[ "Searching", "for", "an", "effective", "defender", ":", "Benchmarking", "defense", "against", "adversarial", "word", "sub-", "stitution", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:2108.12777", "." ]

[ "O", "O", "O", "O" ]

[ "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Roberta", ":", "A", "robustly", "optimized", "bert", "pretraining", "ap-", "proach", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]