Datasets:

anlp

/

annotation2_wo_elimination

like 0

Follow

anlp team project 4

[ "Recovery", "95.0", "45.0", "34.0", "✔", "Purification", "✔", "Comb", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O" ]

[ "Recovery", "✖", "Mask", "Insertion", "95.0", "29.0", "17.0", "▲", "Combining", "Adversarially", "Trained", "Classifier", "↓", "✔", "Purification", "✔", "AT", "Classifier", "93.0", "86.0", "77.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "93.0", "63.0", "52.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "✖", "Mask", "Insertion", "93.0", "42.0", "29.0", "BERT", "94.0", "10.0", "5.0", "Table", "3", ":", "Ablations", "results", "tested", "on", "attacking", "the", "IMDB", "task", "based", "on", "BERT", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Comb", "." ]

[ "O", "O" ]

[ "Classifier", "is", "the", "combined", "fine", "-", "tuned", "Fc", "(", "·", ")", "andFm", "(", "·", ")", "and", "AT", "Classifier", "is", "the", "adversarially", "trained", "Fc", "(", "·", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Mask", "Insertion", "is", "to", "use", "both", "mask", "-", "replacing", "and", "mask", "-", "insertion", "in", "injecting", "noise", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "are", "effective", ",", "which", "indicates", "that", "gradient", "-", "based", "adversaries", "are", "not", "very", "similar", "to", "actual", "substitu-", "tions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "can", "see", "that", "Adv", "-", "HotFlip", "and", "FreeLB", "methods", "achieve", "similar", "results", "(", "around", "30", "%", "when", "K=", "12", ")", "which", "indicates", "that", "gradient", "-", "based", "adver-", "sarial", "training", "methods", "have", "similar", "defense", "abili-", "ties", "no", "matter", "whether", "the", "adversaries", "are", "virtual", "or", "real", "since", "they", "are", "both", "unaware", "of", "the", "attacker", "’s", "candidate", "list", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Also", ",", "the", "original", "accuracy", "(", "on", "the", "clean", "data", ")", "of", "our", "method", "is", "only", "a", "little", "lower", "than", "the", "baseline", "methods", ",", "which", "indicates", "that", "the", "purified", "texts", "still", "contain", "enough", "information", "for", "classification", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "RoBERTa", "model", "also", "shows", "robustness", "using", "both", "original", "fine", "-", "tuned", "model", "and", "our", "defensive", "framework", ",", "which", "indicates", "our", "purification", "algorithm", "can", "be", "used", "in", "various", "pre-", "trained", "language", "models", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Compared", "with", "methods", "that", "specifically", "focus", "on", "adversarial", "defense", ",", "our", "proposed", "method", "can", "still", "surpass", "the", "state", "-", "of", "-", "the-", "art", "defense", "system", "FreeLB++", "(", "Li", "et", "al", ".", ",", "2021", ")", "and", "RanMASK", "(", "Zeng", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "the", "candidate", "size", "is", "extremely", "im-", "portant", "in", "defending", "against", "adversarial", "attacks", ",", "when", "the", "candidate", "size", "is", "smaller", ",", "exemplified", "by", "K=", "12", ",", "our", "method", "can", "achieve", "very", "promising", "results", "." ]

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "pointed", "out", "by", "Morris", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020b", ")", ",", "the", "candidate", "size", "should", "not", "be", "too", "large", "that", "the", "quality", "of", "the", "adversarial", "examples", "is", "largely", "dam-", "aged", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Table", "2", ",", "we", "compare", "our", "method", "with", "previous", "access", "-", "candidates", "defense", "methods", ".", "When", "defending", "against", "the", "widely", "used", "Textfooler", "attack", "and", "genetic", "attack", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "our", "method", "can", "achieve", "similar", "accuracy", "even", "compared", "with", "known", "-", "candidates", "defense", "meth-", "ods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", ",", "the", "data", "augmentation", "method", "can-", "not", "significantly", "improve", "model", "robustness", "since", "the", "candidates", "can", "be", "very", "diversified", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "using", "generated", "adversarial", "samples", "as", "an", "aug-", "mentation", "strategy", "does", "not", "guarantee", "robustness", "against", "greedy", "-", "searched", "methods", "like", "Textfooler", "and", "BERT", "-", "Attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.6", "Analysis", "4.6.1", "Ablations", "As", "we", "design", "an", "adversarial", "purification", "algo-", "rithm", "with", "masked", "language", "models", "and", "propose", "a", "multiple", "-", "recovering", "strategy", ",", "we", "aim", "to", "explore", "which", "process", "helps", "more", "in", "the", "purification", "de-", "fense", "system", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Plus", ",", "we", "combine", "classifiers", "within", "the", "purification", "model", "so", "it", "is", "also", "important", "to", "explore", "whether", "such", "a", "combination", "is", "helpful", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "type", "of", "purification", "method", ",", "we", "test", "whether", "the", "specific", "purification", "process", "we", "pro-", "pose", "is", "effective", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "we", "test", "whether", "making", "multiple", "recoveries", "in", "the", "purification", "process", "is", "helpful", ";", "also", ",", "we", "test", "whether", "using", "both", "masking", "tokens", "and", "inserting", "additional", "masks", "is", "helpful", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Table", "3", ",", "we", "can", "summarize", "that", ":", "(", "1", ")", "Multi", "-", "time", "recovering", "is", "necessary", ":", "in", "the", "image", "domain", ",", "multiple", "reconstructions", "with", "a", "con-", "tinuous", "time", "purification", "process", "are", "necessary.344", "Texts", "Confidence", "(", "Positive", ")", "Clean", "-", "SampleI", "have", "the", "good", "common", "logical", "sense", "to", "know", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "revolves", "around", "petrochemical", "products", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "so", "...", "93.2", "%", "Adv", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "of", "BERTI", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "spins", "around", "petrochemical", "products", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "well", "...", "38.3", "%", "Adv", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "of", "Text", "PureI", "know", "the", "wonderful", "general", "sense", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "city", "spins", "around", "petrochemical", "products", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "powerboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "80.1", "%", "Purified", "TextsWell", "I", "know", "the", "wonderful", "general", "sense", "notion", "to", "knows", "that", "oils", "production", "can", "not", "last", "for", "endless", "years", "and", "I", "am", "acutely", "know", "of", "how", "the", "majority", "of", "my", "live", "in", "the", "city", "spins", "around", "the", "petrochemical", "production", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "new", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "power", "skateboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "80.4", "%", "I", "know", "the", "wonderful", "common", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "forever", "and", "I", "also", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "world", "and", "around", "petrochemical", "production", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "them", "on", "skateboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "81.4", "%", "I", "know", "the", "wonderfully", "general", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "part", "of", "my", "lived", "in", "the", "big", "city", "spins", "around", "petrocochemical", "production", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "should", "have", "been", "an", "amateur", "consumers", "fan", "of", "newly", "technologies", "and", "I", "kept", "on", "working", "out", "of", "spaces", "and", "on", "powerboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "76.2", "%", "I", "am", "the", "the", "general", "sense", "notion", "and", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "the", "part", "of", "my", "lived", "as", "the", "city", "spins", "around", "petrochemical", "production", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "bed", "on", "powerboards", "!" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "well", "...", "78.5", "%", "Table", "4", ":", "A", "random", "selected", "sample", "that", "BERT", "model", "failed", "to", "defend", "against", "the", "Textfooler", "Attack", "in", "the", "IMDB", "dataset", "and", "Text", "Pure", "(", "Text", "Adversarial", "Purification", ")", "succeed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Adv", "." ]

[ "O", "O" ]

[ "of", "BERT", "is", "the", "adversarial", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ "Adv", "." ]

[ "O", "O" ]

[ "of", "Text", "Pure", "is", "the", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "but", "failed", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "purified", "texts", "are", "also", "listed", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "Similarly", ",", "the", "multi", "-", "recovery", "process", "is", "important", "in", "obtaining", "high", "-", "quality", "purification", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "can", "observe", "that", "one", "-", "time", "recovery", "can", "not", "achieve", "promising", "defense", "performances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2", ")", "Combining", "classifiers", "is", "effective", ":", "we", "can", "observe", "that", "when", "we", "use", "trained", "classifiers", "and", "masked", "language", "models", ",", "the", "defense", "perfor-", "mances", "are", "better", "than", "using", "fine", "-", "tuned", "classifier", "and", "vanilla", "BERT", "as", "a", "masked", "language", "model", ",", "indicating", "that", "such", "a", "combined", "training", "process", "is", "helpful", "in", "obtaining", "more", "strong", "defense", "systems", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Also", ",", "with", "gradient", "-", "based", "adversarial", "training", ",", "the", "purification", "process", "can", "obtain", "a", "further", "boost", ",", "indi-", "cating", "that", "our", "proposed", "text", "purification", "algorithm", "can", "be", "used", "together", "with", "previous", "defense", "meth-", "ods", "as", "an", "advanced", "defense", "system", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.6.2", "Example", "of", "Purification", "Results", "As", "seen", "in", "Table", "4", ",", "we", "construct", "multiple", "recoveries", "and", "use", "the", "averaged", "score", "as", "the", "final", "classifica-", "tion", "result", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "a", "purification", "process", "is", "effective", "compared", "with", "vanilla", "fine", "-", "tuned", "BERT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "We", "can", "observe", "that", "the", "adversarial", "sample", "that", "successfully", "attacked", "the", "vanilla", "BERT", "model", "only", "achieves", "this", "by", "replacing", "only", "a", "few", "tokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "with", "the", "purification", "process", ",", "the", "attack", "algorithm", "is", "struggling", "in", "finding", "effective", "substitutions", "to", "achieve", "a", "successful", "attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Even", "replacing", "a", "large", "number", "of", "tokens", "that", "seriously", "hurt", "the", "semantics", "of", "the", "input", "texts", ",", "with", "the", "purification", "process", "in-", "volved", ",", "the", "classifier", "can", "still", "resist", "the", "adversarialeffect", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "by", "observing", "the", "purified", "texts", ",", "we", "can", "find", "that", "the", "purified", "texts", "can", "make", "predictions", "correctly", "though", "some", "substitutes", "still", "exist", "in", "the", "purified", "texts", ",", "indicating", "that", "making", "predictions", "based", "on", "purified", "texts", "using", "the", "combined", "trained", "classifier", "can", "obtain", "a", "promising", "defense", "perfor-", "mance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "our", "proposed", "method", ",", "though", "is", "not", "a", "plug", "-", "and", "-", "play", "system", ",", "can", "be", "used", "as", "a", "gen-", "eral", "system", "as", "a", "defense", "against", "substitution", "-", "based", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "introduce", "a", "textual", "adversar-", "ial", "purification", "algorithm", "as", "a", "defense", "against", "substitution", "-", "based", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "utilize", "the", "mask", "-", "infill", "ability", "of", "pre", "-", "trained", "models", "to", "re-", "cover", "noisy", "texts", "and", "use", "these", "purified", "texts", "to", "make", "predictions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Experiments", "show", "that", "the", "pu-", "rification", "method", "is", "effective", "in", "defending", "strong", "adversarial", "attacks", "without", "acknowledging", "the", "sub-", "stitution", "range", "of", "the", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "are", "the", "first", "to", "consider", "the", "adversarial", "purification", "method", "with", "a", "multiple", "-", "recovering", "strategy", "in", "the", "text", "domain", "while", "previous", "successes", "of", "adversarial", "purifica-", "tion", "strategies", "usually", "focus", "on", "the", "image", "field", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "hope", "that", "the", "adversarial", "purification", "method", "can", "be", "further", "explored", "in", "NLP", "applica-", "tions", "as", "a", "powerful", "defense", "strategy.345", "Limitations", "In", "this", "paper", ",", "we", "discuss", "an", "important", "topic", "in", "the", "NLP", "field", ",", "the", "defense", "against", "adversarial", "attacks", "in", "NLP", "applications", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "provide", "a", "strong", "defense", "strategy", "against", "the", "most", "widely", "used", "word", "substi-", "tution", "attacks", "in", "the", "NLP", "field", ",", "which", "is", "limited", "in", "several", "directions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•We", "are", "testing", "defense", "strategies", "using", "down-", "stream", "task", "models", "such", "as", "BERT", "and", "RoBERTa", ",", "and", "the", "purification", "tool", "is", "a", "model", "with", "a", "mask", "-", "filling", "ability", "such", "as", "BERT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Such", "a", "process", "can", "be", "further", "improved", "with", "strong", "models", "such", "as", "large", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•We", "study", "the", "concept", "of", "adversarial", "purifica-", "tion", "in", "the", "adversarial", "attack", "scenarios", "with", "word", "-", "substitution", "attacks", "on", "small", "fine", "-", "tuned", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "concept", "of", "adversarial", "purifica-", "tion", "can", "be", "further", "expanded", "to", "various", "NLP", "applications", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "the", "purification", "of", "natural", "language", "can", "be", "used", "in", "malicious", "text", "purification", "which", "is", "more", "suitable", "in", "applica-", "tions", "with", "large", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Acknowledgement", "This", "work", "was", "supported", "by", "the", "National", "Natu-", "ral", "Science", "Foundation", "of", "China", "(", "No", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "62236004", "and", "No", "." ]

[ "O", "O", "O", "O" ]

[ "62022027", ")", "and", "CAAI", "-", "Huawei", "MindSpore", "Open", "Fund", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "References", "Moustafa", "Alzantot", ",", "Yash", "Sharma", ",", "Ahmed", "Elgohary", ",", "Bo-", "Jhang", "Ho", ",", "Mani", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Srivastava", ",", "and", "Kai", "-", "Wei", "Chang", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2018", "." ]

[ "O", "O" ]

[ "Generating", "natural", "language", "adversarial", "exam-", "ples", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1804.07998", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Nicholas", "Carlini", "and", "David", "A", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Wagner", "." ]

[ "O", "O" ]

[ "2016", "." ]

[ "O", "O" ]

[ "Towards", "evaluating", "the", "robustness", "of", "neural", "networks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1608.04644", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Daniel", "Cer", ",", "Yinfei", "Yang", ",", "Sheng", "-", "yi", "Kong", ",", "Nan", "Hua", ",", "Nicole", "Limtiaco", ",", "Rhomni", "St", "John", ",", "Noah", "Constant", ",", "Mario", "Guajardo", "-", "Cespedes", ",", "Steve", "Yuan", ",", "Chris", "Tar", ",", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2018", "." ]

[ "O", "O" ]

[ "Universal", "sentence", "encoder", "." ]

[ "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1803.11175", "." ]

[ "O", "O", "O", "O" ]

[ "Yong", "Cheng", ",", "Lu", "Jiang", ",", "and", "Wolfgang", "Macherey", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2019", "." ]

[ "O", "O" ]

[ "Robust", "neural", "machine", "translation", "with", "doubly", "adver-", "sarial", "inputs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1906.02443", "." ]

[ "O", "O", "O", "O" ]

[ "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2018", "." ]

[ "O", "O" ]

[ "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "CoRR", ",", "abs", "/", "1810.04805.Xinshuai", "Dong", ",", "Hong", "Liu", ",", "Rongrong", "Ji", ",", "and", "Anh", "Tuan", "Luu", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2021", "." ]

[ "O", "O" ]

[ "Towards", "robustness", "against", "natural", "lan-", "guage", "word", "substitutions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "International", "Confer-", "ence", "on", "Learning", "Representations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Javid", "Ebrahimi", ",", "Anyi", "Rao", ",", "Daniel", "Lowd", ",", "and", "De-", "jing", "Dou", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2017", "." ]

[ "O", "O" ]

[ "Hotflip", ":", "White", "-", "box", "adversarial", "examples", "for", "text", "classification", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "arXiv", "preprint", "arXiv:1712.06751", "." ]

[ "O", "O", "O", "O" ]

[ "Siddhant", "Garg", "and", "Goutham", "Ramakrishnan", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "2020", "." ]

[ "O", "O" ]

[ "Bae", ":", "Bert", "-", "based", "adversarial", "examples", "for", "text", "classifica-", "tion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]