anlp/sentence_w_elimination · Datasets at Hugging Face

sentences sequence	new_gt sequence
[ "We", "examine", "the", "syn-", "tactic", "(", "§", "3.3.1", ")", "and", "semantic", "(", "§", "3.3.2", ")", "features", "of", "prompt", "text", "via", "interactive", "data", "visualizations", "Lastly", ",", "We", "discuss", "the", "implications", "of", "our", "findings", "and", "suggest", "future", "research", "directions", "3.3.1", "Prompt", "Syntactic", "Features", "To", "characterize", "the", "composition", "of", "prompts", ",", "we", "parse", "phrases", "from", "all", "1.8", "M", "unique", "prompts", "We", "split", "each", "prompt", "by", "commas", "and", "then", "extract", "named", "entities", "(", "NE", ")", "and", "noun", "phrases", "(", "NP", ")", "from", "each", "separated", "component", "using", "use", "Spacy", "(", "Hon-", "nibal", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]
[ ",", "2020", ")", "If", "there", "is", "no", "noun", "phrase", "in", "a", "comma", "-", "separated", "component", ",", "we", "extract", "the", "whole", "component", "(", "C", ")", "as", "a", "phrase", "We", "keep", "track", "of", "each", "NP", "’s", "root", "to", "create", "a", "hierarchy", "of", "noun", "phrases", "For", "example", ",", "for", "the", "prompt", "“", "draw", "baby", "yoda", "in", "a", "loading", "screen", "for", "grand", "theft", "auto", "5", ",", "highly", "detailed", ",", "digital", "art", ",", "concept", "art", ",", "”", "we", "extract", "six", "phrases", ":", "“", "baby", "yoda", "”", "(", "NE", ")", ",", "“", "a", "loading", "screen", "”", "(", "NP", "with", "root", "“", "screen", "”", ")", ",", "“", "grand", "theft", "auto", "5", "”", "(", "NE", ")", ",", "“", "highly", "detailed", "”", "(", "C", ")", ",", "“", "digital", "art", "’", "(", "NP", "with", "root", "“", "art", "”", ")", ",", "and", "“", "concept", "art", "”", "(", "NP", "with", "root", "“", "art", "”", ")", "We", "group896", "Fig", "5", ":", "We", "identify", "and", "group", "popular", "phrases", "in", "prompts", "through", "named", "entity", "recognition", "and", "dependency", "parsing", "Our", "interactive", "circle", "-", "packing", "visualization", "highlights", "the", "distribution", "and", "hierarchy", "of", "these", "phrases", "(", "A", ")", "The", "Overview", "visualizes", "each", "phrase", "as", "a", "circle", ",", "with", "its", "size", "representing", "the", "phrase", "’s", "frequency", "In", "this", "example", ",", "a", "viewer", "clicks", "a", "circle", "to", "zoom", "into", "the", "“", "painting", "”", "phrase", "(", "B1", ")", "TheDetail", "View", "shows", "all", "noun", "phrases", "that", "use", "“", "painting", "”", "as", "their", "root", "(", "B2", ")", "Similarly", ",", "it", "shows", "all", "phrases", "that", "include", "“", "oil", "painting", "”", "when", "the", "viewer", "zooms", "into", "“", "oil", "painting", "”", "“", "digital", "art", "”", "and", "“", "concept", "art", "”", "into", "the", "same", "hierarchy", "as", "they", "share", "the", "same", "NP", "root", "“", "art", "”", "Visualizing", "Prompt", "Phrases", "We", "create", "an", "in-", "teractive", "circle", "packing", "visualization3to", "gain", "an", "understanding", "of", "the", "distribution", "and", "relationships", "between", "different", "phrases", "(", "Fig", "5", ")", "Circle", "pack-", "ing", "(", "Wang", "et", "al", ",", "2006", ")", "is", "a", "technique", "to", "visualize", "hierarchical", "data", ",", "and", "each", "phrase", "is", "represented", "as", "a", "circle", "whose", "size", "encodes", "the", "phrase", "’s", "frequency", "in", "the", "dataset", "We", "position", "sibling", "noun", "phrases", "(", "e.g.", ",", "phrases", "sharing", "the", "same", "NP", "root", ")", "inside", "their", "parent", "phrase", "’s", "circle", "through", "a", "front", "-", "chain", "packing", "algorithm", "(", "Wang", "et", "al", ",", "2006", ")", "Viewers", "can", "hover", "over", "a", "circle", "to", "see", "the", "corresponding", "phrase", "and", "its", "frequency", "Viewers", "can", "also", "click", "a", "circle", "(", "Fig", "5A", ")", "to", "zoom", "into", "that", "sub", "-", "tree", "to", "see", "more", "details", "about", "a", "phrase", "(", "Fig", "5", "-", "B1", ")", "or", "a", "sub", "-", "phrase", "(", "Fig", "5", "-", "B2", ")", "Insights", "and", "implications", "Our", "interactive", "visu-", "alization", "reveals", "that", "key", "phrases", "such", "as", "“", "highly", "detailed", ",", "”", "“", "intricate", ",", "”", "and", "“", "greg", "rutkowski", "”", "3Phrase", "visualization", ":", "https", ":", "/", "/", "poloclub.github.io", "/", "diffusiondb", "/", "explorer", "#", "phraseare", "commonly", "used", "in", "prompts", "(", "Fig", "5A", ")", "The", "hierarchical", "visualization", "also", "surfaces", "popular", "image", "styles", "specified", "by", "users", ",", "such", "“", "digital", "painting", ",", "”", "“", "oil", "painting", ",", "”", "and", "“", "portrait", "painting", "”", "for", "painting", "styles", "(", "Fig", "5", "-", "B1", ")", "and", "“", "studio", "lighting", ",", "”", "“", "volumetric", "lighting", "”", ",", "and", "“", "atmospheric", "lighting", "”", "for", "lighting", "These", "phrases", "can", "be", "unfamiliar", "to", "Stable", "Diffusion", "users", ",", "especially", "beginners", ",", "which", "highlights", "the", "impor-", "tance", "of", "helping", "users", "develop", "prompting", "vocab-", "ularies" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Researchers", "can", "leverage", "DIFFUSION", "DB", "and", "our", "visualization", "to", "design", "tutorials", "and", "user", "interfaces", "that", "integrate", "exemplar", "prompts", "to", "guide", "users", "in", "describing", "their", "desired", "images" ]	[ "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.3.2", "Prompt", "Semantic", "Features", "In", "addition", "to", "analyzing", "the", "syntactic", "characteris-", "tics", "of", "prompts", ",", "we", "also", "analyze", "their", "semantic", "fea-", "tures", "We", "use", "a", "pre", "-", "trained", "CLIP", "model", "(", "Radford", "et", "al", ",", "2021", ")", "to", "extract", "semantic", "features", "(", "Ramesh", "et", "al", ",", "2022", ")", "We", "use", "a", "frozen", "CLIP", "ViT", "-", "L", "/", "14", "text", "encoder", "(", "the", "same", "model", "used", "in", "Stable", "Diffusion", ")", "to", "convert", "prompts", "into", "768", "-", "dimension", "vectors.897", "Fig" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "6", ":", "An", "interactive", "contour", "plot", "of", "1.8", "M", "prompts", "’", "CLIP", "embeddings", ",", "created", "with", "UMAP", "and", "kernel", "den-", "sity", "estimation", "Text", "labels", "show", "the", "top", "keywords", "of", "prompts", "in", "a", "grid", "tile", "It", "reveals", "popular", "prompt", "topics", "Visualizing", "Prompt", "Embeddings", "To", "study", "the", "distribution", "of", "prompts", "in", "high", "-", "dimensional", "space", ",", "we", "use", "UMAP", "(", "McInnes", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2020", ")", "to", "project", "768", "-", "dimensional", "vectors", "into", "2", "-", "D", "vectors", "for", "easy", "visualization", "UMAP", "is", "a", "popular", "dimensional-", "ity", "reduction", "technique", "that", "is", "better", "at", "preserv-", "ing", "the", "global", "structure", "of", "data", "and", "more", "scal-", "able", "to", "large", "datasets", "compared", "to", "t", "-", "SNE", "(", "van", "der", "Maaten", "and", "Hinton", ",", "2008", ")", "and", "PCA", "(", "Hotelling", ",", "1936", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]
[ "We", "use", "grid", "search", "to", "fine", "-", "tune", "hyperpa-", "rameters", "n_neighbors", "(", "60", ")", "and", "min_dist", "(", "0.1", ")", "so", "that", "prompts", "are", "more", "spread", "out", "in", "a", "2", "-", "D", "space" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "develop", "an", "interactive", "visualization", "tool4to", "explore", "prompts", "’", "semantic", "embeddings", "(", "Fig", "6", ")", "We", "use", "Kernel", "Density", "Estimation", "(", "KDE", ")", "(", "Rosen-", "blatt", ",", "1956", ")", "with", "a", "standard", "multivariate", "Gaussian", "kernel", "and", "Silverman", "bandwidth", "(", "Silverman", ",", "2018", ")", "to", "estimate", "the", "distribution", "of", "prompts", "’", "UMAP", "rep-", "resentations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O" ]
[ "Then", ",", "we", "visualize", "the", "estimated", "dis-", "tribution", "as", "a", "contour", "plot", "To", "summarize", "prompts", "that", "are", "in", "the", "same", "region", ",", "we", "create", "four", "grids", "with", "varying", "granularity", "and", "pre", "-", "compute", "key-", "words", "for", "each", "grid", "tile", ",", "by", "treating", "all", "prompts", "in", "the", "tile", "as", "a", "document", "and", "selecting", "the", "top", "4", "keywords", "with", "the", "highest", "TF", "-", "IDF", "scores" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName" ]
[ "Interactions", "Our", "visualization", "shows", "keywords", "of", "tiles", "that", "are", "close", "to", "high", "-", "density", "regions", "and", "prompt", "clusters", "by", "default", "Viewers", "can", "hover", "over", "a", "tile", "to", "see", "its", "keywords", ",", "pan", "and", "zoom", "in", "to", "see", "more", "details", "of", "specific", "regions", ",", "and", "click", "a", "button", "to", "display", "each", "prompt", "as", "a", "small", "dot", "that", "viewers", "can", "hover", "over", "to", "read", "its", "prompt", "text", "4Prompt", "embedding", "visualization", ":", "https", ":", "/", "/", "poloclub", "github.io", "/", "diffusiondb", "/", "explorer", "/", "#", "prompt-embedding", "Fig", "7", ":", "CLIP", "embeddings", "of", "2", "M", "randomly", "selected", "images", "shown", "as", "a", "contour", "plot", ",", "with", "text", "labels", "being", "keywords", "of", "prompts", "in", "the", "grid", "tiles", "It", "shows", "images", "have", "a", "different", "embedding", "distribution", "from", "prompts", "Insights", "and", "implications", "Our", "semantic", "embed-", "ding", "visualization", "(", "Fig", "6", ")", "highlights", "two", "popular", "prompt", "categories", ":", "art", "-", "related", "prompts", "(", "left", "in", "the", "plot", ")", "and", "photography", "-", "related", "prompts", "(", "dark", "blue", "regions", "on", "the", "right", ")", "These", "two", "groups", "appear", "distant", "from", "each", "other", "in", "the", "UMAP", "space", ",", "sug-", "gesting", "that", "the", "prompts", "for", "art", "and", "photography", "typically", "have", "distinct", "semantic", "representations", "In-", "terestingly", ",", "photography", "prompts", "appear", "to", "contain", "two", "clusters", ":", "one", "for", "non", "-", "human", "objects", "(", "top", "right", ")", "and", "another", "for", "celebrities", "(", "bottom", "right", ")", "Small", "prompt", "clusters", "outside", "the", "central", "area", "often", "fea-", "ture", "artist", "names", "Our", "findings", "suggest", "that", "future", "researchers", "can", "leverage", "the", "prompt", "usage", "distri-", "bution", "to", "fine", "-", "tune", "generative", "models", "to", "tailor", "to", "specific", "popular", "prompt", "categories", "3.4", "Characterizing", "Images", "We", "visualize5the", "CLIP", "embedding", "distribution", "of", "2", "million", "unique", "image", "instances", "randomly", "sam-", "pled", "from", "DIFFUSION", "DB", "(", "Fig" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]
[ "7", ")", "by", "defining", "the", "unique", "key", "as", "the", "combination", "of", "the", "image", "’s", "prompt", "and", "hyperparameters", "CFG", "scale", ",", "step", ",", "size", ",", "and", "seed" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName" ]
[ "We", "use", "the", "UMAP", "model", "that", "was", "previously", "trained", "on", "the", "prompt", "embeddings", "to", "project", "the", "image", "embeddings", "into", "the", "same", "2", "-", "D", "space" ]	[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Finally", ",", "we", "apply", "the", "same", "method", "we", "used", "for", "our", "prompt", "embedding", "visualization", "(", "§", "3.3.2", ")", "to", "generate", "a", "contour", "plot", "and", "grid", "label", "overlays", "Insights", "and", "implications", "Our", "image", "embed-", "ding", "visualization", "reveals", "that", "generated", "images", "have", "a", "different", "distribution", "from", "their", "prompts", "in", "the", "CLIP", "embedding", "space", "For", "example", ",", "the", "5Image", "embedding", "visualization", ":", "https", ":", "/", "/", "poloclub", "github.io", "/", "diffusiondb", "/", "explorer", "/", "#", "image-embedding898", "“", "movie", "”", "cluster", "in", "the", "prompt", "embedding", "has", "been", "replaced", "by", "the", "“", "portrait", "”", "cluster", "in", "the", "image", "em-", "bedding", "This", "suggests", "the", "semantic", "representa-", "tions", "of", "prompts", "and", "their", "generated", "images", "may", "not", "be", "perfectly", "aligned", "One", "hypothesis", "is", "that", "large", "image", "generative", "models", "face", "limitations", "when", "generating", "photorealistic", "human", "faces", "(", "Borji", ",", "2022", ")", ",", "and", "therefore", "some", "images", "generated", "with", "movie", "-", "related", "prompts", "appear", "to", "be", "closer", "to", "art", "and", "portrait", "regions", "in", "the", "embedding", "space", "3.5", "Stable", "Diffusion", "Error", "Analysis", "We", "leverage", "DIFFUSION", "DBto", "discover", "Stable", "Dif-", "fusion", "generation", "failure", "cases", "and", "examine", "po-", "tential", "causes" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "surface", "poor", "image", "generations", ",", "we", "compute", "CLIP", "embeddings", "for", "all", "prompts", "and", "images", "in", "DIFFUSION", "DB" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]
[ "We", "then", "select", "prompt-", "image", "pairs", "with", "a", "large", "cosine", "distance", "(", "d", ")", "be-", "tween", "their", "embeddings", "The", "cosine", "distances", "have", "a", "normal", "distribution", "(", "N", "(", "0.7123,0.04132", ")", ")", "In", "this", "analysis", ",", "we", "focus", "on", "13,411", "“", "bad", "”", "prompt-", "image", "pairs", "(", "1", ")", "with", "a", "distance", "that", "is", "larger", "than", "4", "standard", "deviations", "from", "the", "mean", "and", "(", "2", ")", "the", "image", "was", "not", "blurred", "by", "Stable", "Diffusion", "(", "§", "2.3", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ "Impacts", "of", "hyperparameters", "We", "conduct", "a", "lo-", "gistic", "regression", "test", "to", "analyze", "the", "relationship", "between", "Stable", "Diffusion", "hyperparameter", "values", "(", "e.g.", ",", "CFG", "scale", ",", "step", ",", "width", ",", "and", "height", ")", "and", "the", "likelihood", "of", "generating", "an", "image", "that", "is", "se-", "mantically", "different", "from", "its", "prompt" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "results", "reveal", "that", "all", "four", "hyperparameters", "are", "negatively", "correlated", "with", "the", "likelihood", "of", "generating", "a", "bad", "image", "The", "correlation", "is", "statistically", "significant", "with", "a", "p", "-", "value", "of", "less", "than", "0.0001", "for", "all", "four", "vari-", "ables" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O" ]
[ "Furthermore", ",", "we", "find", "the", "distribution", "of", "selected", "sampler", "options", "when", "generating", "bad", "im-", "ages", "is", "significantly", "different", "from", "the", "overall", "dis-", "tribution", "(", "X2=", "40873", ".11", ",", "p", "<", "0.0001", ")", "CFG", "scale", "con-", "trols", "how", "much", "the", "generated", "image", "looks", "like", "the", "prompt" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "find", "some", "users", "spec-", "ify", "negative", "CFG", "scales", "that", "make", "images", "look", "different", "from", "their", "prompts", "(", "large", "cosine", "distance", "d", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "the", "example", "shown", "on", "the", "right", ",", "a", "user", "gen-", "erates", "an", "image", "using", "a", "prompt", "about", "“", "superman", "”", "with", "all", "default", "hyperparameters", "values", ",", "except", "for", "setting", "CFG", "scale", "to-1" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]
[ "This", "results", "in", "an", "image", "featuring", "a", "bowl", "of", "soup", "instead", "of", "“", "superman", "”", "A", "small", "step", "could", "also", "generate", "under-", "developed", "images", "that", "look", "different", "from", "the", "specified", "prompts", "As", "demonstrated", "in", "the", "example", "on", "the", "right", ",", "a", "user", "generates", "an", "image", "about", "“", "plague", "doctor", "”", "with", "all", "default", "hyperparameter", "values", ",", "except", "for", "setting", "step", "to2", ",", "which", "leads", "to", "a", "blurry", "image", "Stable", "Diffusion", "struggles", "with", "generating", "images", "with", "a", "small", "size", "or", "large", "aspect", "ratios" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "dissimilar", "image", "shown", "on", "the", "right", "is", "generated", "with", "default", "hyper-", "parameters", "except", "for", "a", "size", "of", "(", "64,512", ")", "Impacts", "of", "prompts", "Despite", "controlling", "all", "hyperparameters", "to", "be", "close", "to", "default", "values", ",", "we", "still", "find", "1.1k", "unique", "bad", "image", "-", "prompt", "pairs", "Most", "of", "these", "instances", "have", "non", "-", "English", "prompts", ",", "very", "short", "prompts", ",", "or", "prompts", "consisting", "primarily", "emojis", "(", "see", "an", "ex-", "ample", "on", "the", "right", ")", "The", "token", "lengths", "of", "these", "instances", "are", "significantly", "lower", "than", "the", "overall", "to-", "ken", "length", "(", "one", "-", "tailed", "t=−23.7203", ",", "p", "<", "0.0001", ")", "The", "English", "prompt", "frequency", "among", "these", "in-", "stances", "is", "also", "significantly", "lower", "than", "the", "overall", "frequency", "(", "X2=", "1024", ".56", ",", "p", "<", "0.0001", ")", "Inter-", "estingly", ",", "we", "also", "find", "that", "Stable", "Diffusion", "some-", "times", "generates", "unexpected", "images", "even", "when", "prompts", "are", "meaningful", "English", "sentences" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Future", "researchers", "can", "use", "our", "error", "analysis", "and", "failure", "cases", "to", "check", "potentially", "mislabeled", "training", "data", "Implications", "Our", "study", "reveals", "Stable", "Diffusion", "can", "make", "mistakes", "when", "generating", "images", "with", "certain", "hyperparameter", "values", "or", "prompt", "styles" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Negative", "CFG", "scales", ",", "small", "steps", ",", "or", "small", "sizes", "contributes", "to", "generating", "images", "dissimi-", "lar", "to", "prompts" ]	[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Short", "and", "non", "-", "English", "prompts", "can", "also", "lead", "to", "errors", "To", "improve", "the", "quality", "of", "fu-", "ture", "generative", "models", ",", "researchers", "can", "expand", "the", "training", "data", "to", "cover", "these", "edge", "cases", "There", "are", "opportunities", "for", "researchers", "to", "design", "user", "inter-", "faces", "that", "can", "help", "users", "understand", "the", "impact", "of", "different", "hyperparameters", "and", "guide", "them", "in", "choos-", "ing", "values", "that", "fit", "their", "specific", "use", "cases", "3.6", "Potentially", "Harmful", "Uses", "To", "identify", "potentially", "malicious", "uses", "of", "Stable", "Dif-", "fusion", ",", "we", "use", "named", "entity", "recognition", "to", "analyze", "prompts" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "find", "that", "many", "prompts", "include", "names899", "of", "influential", "politicians", ",", "such", "as", "over", "65k", "images", "generated", "with", "a", "prompt", "including", "“", "Donald", "Trump", "”", "and", "over", "48k", "images", "with", "“", "Joe", "Biden", "”", "Some", "prompts", "portray", "these", "politicians", "in", "negative", "lights", ",", "ranging", "from", "depicting", "them", "“", "as", "Gollum", "with", "hair", "”", "to", "“", "arrested", "in", "handcuffs", "”", "Addition-", "ally", ",", "we", "find", "female", "celebrities", "are", "frequently", "used", "in", "prompts", ",", "with", "a", "high", "frequency", "after", "artists", "and", "influential", "politicians", "Some", "of", "these", "prompts", "are", "presented", "in", "a", "sexual", "context", "that", "could", "be", "consid-", "ered", "nonconsensual", "pornography", "Through", "keyword", "search", ",", "we", "discover", "prompts", "generating", "misinformation", "that", "could", "cause", "harm", "For", "example", ",", "the", "prompt", "\"", "scientists", "putting", "microchips", "into", "a", "vaccine", "\"", "may", "harm", "pub-", "lic", "trust", "in", "medical", "institutions", "by", "potentially", "vali-", "dating", "conspiracy", "theories", "Similarly", ",", "the", "prompt", "\"", "Russian", "soldiers", "in", "gas", "masks", "found", "the", "last", "surviving", "ukrainian", "after", "a", "nuclear", "war", "to", "liberate", "ukraine", "\"", "depicts", "false", "images", "of", "the", "Russo", "-", "Ukrainian", "War", "and", "could", "lead", "to", "new", "forms", "of", "propaganda", "Our", "findings", "highlight", "the", "crucial", "need", "for", "further", "research", "on", "the", "broader", "impacts", "of", "large", "generative", "models", "and", "ways", "to", "regulate", "and", "mitigate", "their", "harms", "4", "Enabling", "New", "Research", "Directions", "The", "unprecedented", "scale", "and", "diversity", "of", "DIFFU", "-", "SION", "DBbring", "new", "exciting", "research", "opportunities", "to", "help", "users", "generate", "images", "more", "effectively", "and", "efficiently", ",", "and", "enable", "researchers", "to", "improve", ",", "ex-", "plain", ",", "and", "safeguard", "generative", "models" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Prompt", "Autocomplete" ]	[ "B-TaskName", "I-TaskName" ]
[ "With", "DIFFUSION", "DB", ",", "re-", "searchers", "can", "develop", "an", "autocomplete", "system", "to", "help", "users", "construct", "prompts" ]	[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "one", "can", "use", "the", "prompt", "corpus", "to", "train", "an", "n", "-", "gram", "model", "to", "predict", "likely", "words", "following", "a", "prompt", "part", "Alternatively", ",", "researchers", "can", "use", "semantic", "auto-", "complete", "(", "Hyvönen", "and", "Mäkelä", ",", "2006", ")", "by", "cate-", "gorizing", "prompt", "keywords", "into", "ontological", "cate-", "gories", "such", "as", "subject", ",", "style", ",", "quality", ",", "repetition", ",", "and", "magic", "terms", "(", "Oppenlaender", ",", "2022", ")", "This", "allows", "the", "system", "to", "suggest", "related", "keywords", "from", "un-", "specified", "categories", ",", "for", "example", "suggesting", "style", "keyword", "“", "depth", "of", "field", "”", "and", "a", "magic", "keyword", "“", "award", "-", "winning", "”", "to", "improve", "the", "quality", "of", "gener-", "ated", "images", "Additionally", ",", "researchers", "can", "also", "use", "DIFFUSION", "DBto", "study", "prompt", "auto", "-", "replace", "by", "distilling", "effective", "prompt", "patterns", "and", "creating", "a", "“", "translation", "”", "model", "that", "replaces", "weaker", "prompt", "keywords", "with", "more", "effective", "ones" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Generation", "through", "Search", "AsDIFFUSION", "DB", "contains", "14", "million", "images", ",", "this", "dataset", "might", "have", "already", "included", "images", "with", "a", "user", "’s", "desired", "ef-", "fects" ]	[ "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Thus", ",", "a", "user", "can", "quickly", "search", "images", "in", "DIFFUSION", "DBinstead", "of", "running", "Stable", "Diffusion", ",", "which", "can", "be", "slow", "and", "costly" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "Lexica", "(", "Shameem", ",", "2022", ")", ",", "an", "AI", "start", "-", "up", ",", "provides", "such", "a", "search", "en-", "gine", ",", "where", "users", "can", "search", "Stable", "Diffusion", "im-", "ages", "by", "natural", "language", "or", "images" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "Researchers", "can", "also", "construct", "a", "structured", "index", "of", "images", "and", "prompts", ",", "such", "as", "building", "a", "semantivisual", "image", "hierarchy", "of", "images", "(", "Li", "et", "al", ",", "2010", ")", "or", "a", "hierarchi-", "cal", "topic", "model", "of", "prompts", "(", "Griffiths", "et", "al", ",", "2003", ")", ",", "to", "help", "users", "easily", "discover", "and", "explore", "images", "and", "prompts", "with", "similar", "styles", "Improving", "Generative", "Models", "With", "DIFFU", "-", "SION", "DB", ",", "a", "large", "and", "diverse", "collection", "of", "Sta-", "ble", "Diffusion", "usage", "logs", ",", "researchers", "not", "only", "can", "identify", "weak", "points", "and", "failure", "modes", "of", "Stable", "Diffusion", "but", "also", "gain", "insights", "into", "user", "pref-", "erences" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "we", "demonstrate", "that", "re-", "searchers", "can", "use", "joint", "text", "-", "image", "embeddings", "be-", "tween", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", "Additionally", ",", "DIFFUSION", "DB", "provides", "important", "metadata", "such", "as", "username", "hash", "andtimestamp", "for", "each", "generated", "image" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "By", "analyzing", "these", "metadata", "fields", ",", "researchers", "can", "trace", "the", "evolution", "chain", "of", "prompts", ",", "parameters", ",", "and", "images", ",", "which", "offers", "valuable", "insights", "into", "how", "users", "develop", "mental", "models", "of", "large", "generative", "models", "and", "their", "preferences", "of", "generated", "images", "This", "understanding", "can", "inform", "future", "researchers", "to", "enhance", "generative", "models", "and", "design", "interfaces", "that", "facilitate", "better", "image", "-", "generation", "experiences", "Explainable", "Generation", "As", "generative", "models", "have", "been", "gaining", "immense", "popularity", ",", "there", "is", "a", "call", "for", "explainable", "creativity", "(", "Llano", "et", "al", ",", "2022", ")", "Many", "explanation", "techniques", "use", "input", "permuta-", "tion", "that", "computes", "feature", "attribution", "scores", "by", "running", "a", "model", "on", "slightly", "-", "modified", "input", "val-", "ues", "(", "Lundberg", "and", "Lee", ",", "2017", ")", "DIFFUSION", "DB", "contains", "14", "million", "prompt", "-", "image", "pairs", "including", "similar", "prompts", "with", "minor", "differences", ",", "such", "as", "“", "a", "happy", "dog", "”", "and", "“", "a", "sad", "dog", "”", ",", "allowing", "re-", "searchers", "to", "investigate", "how", "individual", "keywords", "affect", "the", "generation", "process" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Deepfake", "Detection" ]	[ "B-TaskName", "I-TaskName" ]
[ "Breakthroughs", "in", "gener-", "ative", "models", "raise", "concerns", "about", "deepfakes", "—", "fake", "images", "of", "real", "individuals", "for", "unethical", "pur-", "poses", "(", "Wiggers", ",", "2022", ")", "DIFFUSION", "DBis", "valu-900", "able", "for", "detecting", "deepfakes", ",", "as", "it", "contains", "a", "large-", "scale", "collection", "of", "model", "-", "generated", "images", "and", "their", "metadata" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Researchers", "can", "use", "this", "collection", "to", "train", "ML", "models", "to", "identify", "synthetic", "artifacts", "and", "train", "classifiers", "that", "classify", "synthetic", "images", "from", "real", "images", "(", "Mirsky", "and", "Lee", ",", "2022", ")", "5", "Related", "Work", "Text", "-", "to", "-", "text", "Prompting" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "Researchers", "have", "been", "studying", "prompt", "engineering", "for", "text", "-", "to", "-", "text", "gener-", "ation", "(", "e.g.", ",", "Liu", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]
[ ",", "2022", ";", "Lu", "et", "al", ",", "2022", ";", "Rubin", "et", "al", ",", "2022", ")", "To", "facilitate", "this", "line", "of", "research", ",", "researchers", "develop", "PromptSource", "(", "Bach", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]
[ ",", "2022", ")", ",", "a", "dataset", "of", "2k", "text", "prompts", "along", "with", "a", "framework", "to", "create", "and", "share", "prompts", "In", "contrast", ",", "our", "work", "focuses", "on", "text", "-", "to", "-", "image", "prompting", ",", "and", "DIFFUSION", "DBhas", "an", "unprecedented", "scale", "of", "14", "million", "real", "prompt", "-", "image", "pairs" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Text", "-", "to", "-", "image", "Prompting" ]	[ "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "There", "is", "a", "growing", "interest", "in", "text", "-", "to", "-", "image", "prompt", "engineering", "re-", "search", "from", "NLP", ",", "Computer", "Vision", ",", "and", "HCI", "communities", "(", "e.g.", ",", "Qiao", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2022", ";", "Pavlichenko", "and", "Ustalov", ",", "2022", ")", "For", "example", ",", "Oppenlaen-", "der", "(", "2022", ")", "identifies", "six", "types", "of", "prompt", "modi-", "fiers", "through", "an", "ethnographic", "study", ",", "and", "Liu", "and", "Chilton", "(", "2022", ")", "proposes", "design", "guidelines", "for", "text-", "to", "-", "image", "prompt", "engineering", "by", "experimenting", "with", "1,296", "prompts" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O" ]
[ "Closest", "in", "spirit", "to", "DIFFU", "-", "SION", "DBis", "Lexica", "(", "Shameem", ",", "2022", ")", "which", "allows", "users", "to", "search", "over", "5", "million", "Stable", "Diffusion", "im-", "ages", "with", "their", "prompts", ",", "but", "it", "does", "not", "release", "its", "internal", "database" ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "comparison", ",", "DIFFUSION", "DB", "is", "open", "-", "source", "and", "publicly", "available", "to", "everyone" ]	[ "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "6", "Conclusion", "We", "present", "DIFFUSION", "DB", ",", "the", "first", "large", "-", "scale", "text", "-", "to", "-", "image", "prompt", "dataset", ",", "containing", "14", "million", "images", "with", "their", "prompts", "and", "hyperparameters", "col-", "lected", "from", "the", "Stable", "Diffusion", "discord", "server" ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]
[ "We", "release", "the", "dataset", "with", "a", "CC0", "1.0", "license", "and", "open", "source", "all", "collection", "and", "analysis", "code", ",", "broadening", "the", "public", "’s", "access", "to", "cutting", "-", "edge", "AI", "technologies", "We", "discuss", "findings", "on", "prompt", "and", "image", "patterns", "We", "hope", "our", "work", "will", "serve", "as", "a", "cornerstone", "for", "the", "future", "development", "of", "large", "generative", "modes", "and", "tools", "that", "help", "users", "use", "these", "modes", "7", "Limitations", "We", "discuss", "four", "limitations", "of", "our", "work", ":", "the", "in-", "clusion", "of", "unsafe", "content", ",", "potential", "biases", "in", "datasources", ",", "a", "limited", "measure", "of", "image", "quality", "and", "generalizability", "to", "different", "generative", "models", "•Inclusion", "of", "unsafe", "images", "and", "prompts", "We", "collect", "images", "and", "their", "prompts", "from", "the", "Sta-", "ble", "Diffusion", "Discord", "server", "(", "§", "2", ")", "The", "Dis-", "cord", "server", "has", "rules", "against", "users", "generating", "or", "sharing", "harmful", "or", "NSFW", "(", "not", "suitable", "for", "work", ",", "such", "as", "sexual", "and", "violent", "content", ")", "images", "The", "Stable", "Diffusion", "model", "used", "in", "the", "server", "also", "has", "an", "NSFW", "filter", "that", "blurs", "the", "generated", "images", "if", "it", "detects", "NSFW", "content" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "we", "observe", "that", "DIFFUSION", "DBincludes", "some", "NSFW", "images", "that", "were", "not", "detected", "by", "the", "NSFW", "filter", "or", "removed", "by", "the", "server", "modera-", "tors" ]	[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "mitigate", "the", "potential", "harm", ",", "we", "compute", "and", "share", "the", "likelihood", "of", "an", "image", "or", "a", "prompt", "containing", "unsafe", "content", "using", "the", "state", "-", "of", "-", "the-", "art", "NSFW", "detectors", "(", "§", "2.3", ")", "In", "addition", ",", "we", "provide", "a", "Google", "Form", "on", "the", "DIFFUSION", "DB", "website", "where", "users", "can", "report", "harmful", "or", "inap-", "propriate", "images", "and", "prompts" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "will", "closely", "monitor", "this", "form", "and", "remove", "reported", "images", "and", "prompts", "from", "D", "IFFUSION", "DB" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "•Potential", "biases", "of", "the", "data", "source", "The", "14", "million", "images", "in", "DIFFUSION", "DBhave", "diverse", "styles", "and", "categories" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ "However", ",", "Discord", "can", "be", "a", "biased", "data", "source", "Our", "images", "come", "from", "channels", "where", "early", "users", "could", "use", "a", "bot", "to", "use", "Stable", "Diffusion", "before", "release" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]
[ "As", "these", "users", "had", "started", "using", "Stable", "Diffusion", "before", "the", "model", "was", "public", ",", "we", "hypothesize", "that", "they", "are", "AI", "art", "enthusiasts", "and", "are", "likely", "to", "have", "experi-", "ence", "with", "other", "text", "-", "to", "-", "image", "generative", "models" ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "the", "prompting", "style", "in", "DIFFUSION", "DB", "might", "not", "represent", "novice", "users" ]	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O" ]
[ "Similarly", ",", "the", "prompts", "in", "DIFFUSION", "DBmight", "not", "generalize", "to", "domains", "that", "require", "specific", "knowledge", ",", "such", "as", "medical", "images", "(", "Chambon", "et", "al" ]	[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2022", ")", "•Limited", "measure", "of", "image", "quality", "We", "use", "joint", "text", "-", "image", "CLIP", "embeddings", "between", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", "While", "the", "CLIP", "embedding", "distance", "can", "indicate", "the", "degree", "of", "alignment", "between", "the", "prompts", "and", "generated", "images", ",", "it", "does", "not", "provide", "a", "measure", "of", "the", "overall", "image", "quality" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "When", "constructing", "our", "dataset", ",", "we", "have", "considered", "including", "image", "properties", "such", "as", "entropy", ",", "variance", ",", "and", "the", "most", "common", "colors", "to", "help", "users", "gauge", "image", "qualities", "However", ",", "these", "metrics", "do", "not", "provide", "a", "good", "measure", "of", "the", "overall", "image", "quality", "as", "well", "To", "better", "mea-901", "sure", "image", "quality", ",", "future", "researchers", "can", "recruit", "annotators", "to", "rate", "images", "in", "D", "IFFUSION", "DB" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "•Generalizability", "Previous", "research", "has", "shown", "a", "prompt", "that", "works", "well", "on", "one", "generative", "model", "might", "not", "give", "the", "optimal", "result", "when", "used", "in", "other", "models", "(", "Borji", ",", "2022", ")", "Therefore", ",", "different", "models", "can", "need", "users", "to", "write", "different", "prompts", "For", "example", ",", "many", "Stable", "Diffusion", "prompts", "use", "commas", "to", "separate", "keywords", ",", "while", "this", "pattern", "is", "less", "seen", "in", "prompts", "for", "DALL", "-", "E", "2", "(", "Ramesh", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ ",", "2022", ")", "or", "Midjourney", "(", "Holz", ",", "2022", ")" ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]
[ "Thus", ",", "we", "caution", "researchers", "that", "some", "research", "find-", "ings", "from", "DIFFUSION", "DBmight", "not", "be", "general-", "izable", "to", "other", "text", "-", "to", "-", "image", "generative", "models" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "8", "Ethics", "Statement", "In", "this", "section", ",", "we", "discuss", "two", "main", "ethical", "consid-", "erations", "of", "D", "IFFUSION", "DB" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "•Copyright", "By", "using", "the", "Stable", "Diffusion", "Dis-", "cord", "server", ",", "all", "users", "agree", "to", "the", "entirety", "of", "CC0", "1.0", "Universal", "Public", "Domain", "Dedication", "This", "includes", "waiving", "any", "intellectual", "property", "rights", "related", "to", "any", "content", "shared", "on", "the", "server", "(", "Sta-", "bilityAI", ",", "2022b", ")", "All", "prompts", "and", "images", "in", "the", "Discord", "server", "are", "considered", "to", "be", "public", "do-", "main", "and", "can", "be", "used", "by", "anyone", "for", "any", "purpose", "Also", ",", "we", "release", "DIFFUSION", "DBunder", "the", "CC0", "1.0", "license", "(", "§", "2.5", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "•Privacy", "While", "it", "is", "possible", "that", "some", "prompts", "may", "contain", "sensitive", "information", ",", "this", "is", "not", "common", "because", "the", "Stable", "Diffusion", "Discord", "has", "strict", "rules", "against", "writing", "personal", "informa-", "tion", "in", "the", "prompts", "and", "has", "moderators", "in", "place", "to", "remove", "violative", "messages", "To", "further", "protect", "user", "privacy", ",", "we", "have", "anonymized", "the", "usernames", "of", "all", "users", "in", "our", "dataset", "(", "§", "2.4", ")", "Users", "also", "have", "the", "option", "to", "remove", "their", "prompts", "and", "images", "from", "our", "dataset", "through", "an", "online", "form", "(", "§", "2.5", ")", "We", "provide", "a", "thorough", "discussion", "on", "the", "limitations", "and", "broader", "impacts", "of", "D", "IFFUSION", "DB", "in", "its", "Data", "Sheet", "(", "Gebru", "et", "al", ",", "2020", ")", "(", "‡", "A", ")", "Acknowledgements", "We", "thank", "Stability", "AI", "for", "releasing", "Stable", "Diffusion", "and", "hosting", "the", "Stable", "Diffusion", "Discord", "server", "We", "especially", "appreciate", "the", "Stable", "Diffusion", "Dis-", "cord", "moderators", "and", "users", "for", "creating", "an", "open", "and", "friendly", "online", "community", "that", "makes", "our", "work", "possible", "We", "also", "extend", "our", "appreciation", "to", "Hug-", "ging", "Face", "for", "hosting", "our", "dataset", "Lastly", ",", "we", "wouldlike", "to", "acknowledge", "the", "anonymous", "reviewers", "for", "their", "valuable", "feedback", "and", "insightful", "comments", "that", "helped", "improve", "our", "paper", "This", "work", "was", "sup-", "ported", "in", "part", "by", "a", "J.P", "Morgan", "PhD", "Fellowship", ",", "NSF", "grants", "IIS-1563816", ",", "DARPA", "GARD", ",", "gifts", "from", "Cisco", ",", "Bosch", ",", "and", "NVIDIA", "Use", ",", "duplication", ",", "or", "disclosure", "is", "subject", "to", "the", "restrictions", "as", "stated", "in", "Agreement", "number", "HR00112030001", "between", "the", "Government", "and", "the", "Performer", "References", "Apache", "2013" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "912–928", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "From", "Key", "Points", "to", "Key", "Point", "Hierarchy", ":", "Structured", "and", "Expressive", "Opinion", "Summarization", "Arie", "Cattan1∗Lilach", "Eden2∗Yoav", "Kantor2Roy", "Bar", "-", "Haim2", "1Computer", "Science", "Department", ",", "Bar", "Ilan", "University", "2IBM", "Research", "arie.cattan", "@", "gmail.com", "{", "lilache", ",", "yoavka", ",", "roybar", "}", "@", "il.ibm.com", "Abstract", "Key", "Point", "Analysis", "(", "KPA", ")", "has", "been", "recently", "pro-", "posed", "for", "deriving", "fine", "-", "grained", "insights", "from", "collections", "of", "textual", "comments" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "KPA", "extracts", "the", "main", "points", "in", "the", "data", "as", "a", "list", "of", "concise", "sentences", "or", "phrases", ",", "termed", "key", "points", ",", "and", "quantifies", "their", "prevalence" ]	[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "While", "key", "points", "are", "more", "expressive", "than", "word", "clouds", "and", "key", "phrases", ",", "making", "sense", "of", "a", "long", ",", "flat", "list", "of", "key", "points", ",", "which", "often", "express", "related", "ideas", "in", "varying", "levels", "of", "granularity", ",", "may", "still", "be", "chal-", "lenging", "To", "address", "this", "limitation", "of", "KPA", ",", "we", "introduce", "the", "task", "of", "organizing", "a", "given", "set", "of", "key", "points", "into", "a", "hierarchy", ",", "according", "to", "their", "specificity" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "hierarchies", "may", "be", "viewed", "as", "a", "novel", "type", "of", "Textual", "Entailment", "Graph", "We", "develop", "THINK", "P", ",", "a", "high", "quality", "benchmark", "dataset", "of", "key", "point", "hierarchies", "for", "business", "and", "product", "reviews", ",", "obtained", "by", "consolidat-", "ing", "multiple", "annotations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "compare", "different", "methods", "for", "predicting", "pairwise", "relations", "be-", "tween", "key", "points", ",", "and", "for", "inferring", "a", "hierarchy", "from", "these", "pairwise", "predictions", "In", "particular", ",", "for", "the", "task", "of", "computing", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "ex-", "isting", "strong", "baselines", "by", "applying", "directional", "distributional", "similarity", "methods", "to", "a", "novel", "dis-", "tributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "performance", "via", "weak", "supervi-", "sion", "https", ":", "/", "/", "github.com", "/", "IBM", "/", "kpa-hierarchy", "1", "Introduction", "Many", "organizations", "face", "the", "challenge", "of", "extract-", "ing", "insights", "from", "large", "collections", "of", "textual", "com-", "ments", ",", "such", "as", "user", "reviews", ",", "survey", "responses", ",", "and", "feedback", "from", "customers", "or", "employees", "Current", "text", "analytics", "tools", "summarize", "such", "datasets", "via", "word", "clouds", "(", "Heimerl", "et", "al", ",", "2014", ")", "or", "key", "phrases", "(", "Hasan", "and", "Ng", ",", "2014", ";", "Merrouni", "et", "al", ",", "2019", ")", ",", "which", "are", "often", "too", "crude", "to", "capture", "fine", "-", "grained", "insights", "∗Equal", "contribution", "Work", "done", "while", "the", "first", "author", "was", "an", "intern", "at", "IBM", "Research", "Multi", "-", "document", "summarization", "methods", ",", "on", "the", "other", "hand", "(", "Chu", "and", "Liu", ",", "2019", ";", "Bražinskas", "et", "al", ",", "2020a", ",", "b", ";", "Angelidis", "et", "al", ",", "2021", ";", "Louis", "and", "Maynez", ",", "2022", ")", ",", "do", "not", "quantify", "the", "prevalence", "of", "each", "point", "in", "the", "summary", ",", "and", "are", "not", "well", "-", "suited", "for", "repre-", "senting", "conflicting", "views", "(", "Bar", "-", "Haim", "et", "al", ",", "2021", ")", "Key", "Point", "Analysis", "(", "KPA", ")", "is", "a", "recent", "opinion", "summarization", "framework", "that", "aims", "to", "address", "the", "above", "limitations", "(", "Bar", "-", "Haim", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2020b", ")", "KPA", "extracts", "concise", "sentences", "and", "phrases", "termed", "Key", "Points", "(", "KPs", ")", ",", "which", "represent", "the", "most", "salient", "points", "in", "the", "data", ",", "and", "quantifies", "the", "prevalence", "of", "each", "KP", "as", "the", "number", "of", "its", "matching", "input", "sen-", "tences" ]	[ "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "One", "remaining", "shortcoming", "of", "KPA", ",", "how-", "ever", ",", "is", "that", "it", "generates", "a", "flat", "list", ",", "which", "does", "not", "capture", "the", "relations", "between", "the", "key", "points" ]	[ "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "consider", "the", "sample", "set", "of", "key", "points", "in", "Figure", "1", "(", "left", ")", ",", "which", "was", "automatically", "extracted", "from", "reviews", "of", "one", "of", "the", "hotels", "in", "the", "Yelp", "Open", "Dataset1" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "The", "results", "do", "not", "provide", "a", "high", "level", "view", "of", "the", "main", "themes", "expressed", "in", "the", "reviews", "It", "is", "hard", "to", "tell", "which", "key", "points", "convey", "similar", "ideas", ",", "and", "which", "key", "points", "support", "and", "elaborate", "on", "a", "more", "general", "key", "point", "As", "the", "number", "of", "key", "points", "in", "the", "summary", "increases", ",", "such", "output", "becomes", "even", "harder", "to", "consume", "In", "this", "work", "we", "introduce", "Key", "Point", "Hierarchies", "(", "KPH", ")", "as", "a", "novel", "structured", "representation", "of", "opin-", "ion", "summaries" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Organizing", "the", "key", "points", "in", "a", "hier-", "archy", ",", "as", "shown", "in", "Figure", "1", "(", "right", ")", ",", "allows", "the", "user", "to", "quickly", "grasp", "the", "high", "-", "level", "themes", "in", "the", "sum-", "mary", "(", "the", "hotel", "is", "beautiful", ",", "the", "shows", "are", "great", ",", "comfortable", "rooms", ",", "great", "service", ")", ",", "and", "drill", "down", "on", "each", "theme", "to", "get", "more", "fine", "-", "grained", "insights", ",", "e.g.", ",", "from", "“", "The", "personnel", "were", "great", "”", "to“check", "-", "in", "was", "quick", "and", "easy", "”", "Furthermore", ",", "key", "points", "that", "(", "nearly", ")", "convey", "the", "same", "meaning", "(", "e.g.", ",", "“", "House-", "keeping", "was", "fantastic", "”", ",", "and", "“", "The", "cleaning", "crew", "is", "great", "”", ")", "are", "clustered", "together", "and", "represented", "as", "a", "1https", ":", "/", "/", "www.yelp.com", "/", "dataset912", "Figure", "1", ":", "From", "a", "flat", "list", "of", "key", "points", "to", "a", "key", "point", "hierarchy", "(", "KPH", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "Nodes", "group", "together", "key", "points", "that", "roughly", "express", "the", "same", "idea", "and", "directed", "edges", "connect", "specific", "key", "points", "to", "more", "general", "ones", "The", "number", "of", "matches", "for", "each", "key", "point", "is", "omitted", "single", "node", "in", "the", "hierarchy", "This", "structured", "output", "makes", "KPA", "results", "more", "consumable", ",", "informative", ",", "and", "easier", "to", "navigate" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "KPH", "can", "be", "viewed", "as", "a", "new", "type", "of", "textual", "entailment", "graph", "(", "§", "2", ")" ]	[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "develop", "THINK", "P", "(", "TreeHIerarchy", "of", "Naturally", "-", "occuring", "KeyPoints", ")", ",", "the", "first", "bench-", "mark", "dataset", "for", "Key", "Point", "Hierarchies", ",", "created", "from", "KPA", "summaries", "of", "user", "reviews", "in", "multiple", "domains", "(", "§", "4", ")" ]	[ "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Due", "to", "the", "complexity", "of", "KPH", "an-", "notation", ",", "THINK", "Pwas", "created", "by", "consolidating", "multiple", "annotations", ",", "to", "ensure", "its", "high", "quality" ]	[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "explore", "different", "methods", "for", "automatic", "KPH", "construction", "from", "a", "given", "set", "of", "key", "points", "(", "§", "5", ")" ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Following", "previous", "work", "on", "entailment", "graphs", "(", "§", "2", ")", ",", "this", "is", "formulated", "as", "a", "two", "-", "step", "approach", "We", "first", "compute", "local", "scores", "predicting", "the", "directional", "re-", "lation", "between", "each", "pair", "of", "key", "points", "We", "then", "construct", "a", "hierarchy", "guided", "by", "these", "local", "pairwise", "predictions", "We", "present", "novel", "methods", "and", "algorithmic", "im-", "provements", "for", "each", "of", "the", "above", "subtasks", "In", "par-", "ticular", ",", "for", "the", "task", "of", "predicting", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "existing", "strong", "baselines", "by", "applying", "directional", "distribu-", "tional", "similarity", "methods", "to", "a", "novel", "distributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "per-", "formance", "via", "weak", "supervision", "We", "release", "the", "THINK", "Pdataset", "to", "encourage", "further", "research", "on", "this", "challenging", "task" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Overall", ",", "our", "work", "contributes", "to", "several", "lines", "of", "research", ",", "including", "key", "point", "analysis", ",", "opinion", "summarization", ",", "entailment", "graphs", ",", "and", "distribu-", "tional", "methods", "for", "natural", "language", "inference" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Fur-", "thermore", ",", "as", "we", "demonstrate", "in", "§", "4.3", ",", "our", "novel", "THINK", "Pdataset", "captures", "diverse", "types", "of", "infer-", "ences", "between", "pairs", "of", "naturally", "-", "occurring", "texts", ",", "making", "it", "an", "interesting", "resource", "for", "NLI", "research", "in", "general.2", "Background", "Key", "Point", "Analysis" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName" ]
[ "Bar", "-", "Haim", "et", "al", "(", "2020a", ",", "b", ")", "proposed", "Key", "Point", "Analysis", "(", "KPA", ")", "as", "a", "summa-", "rization", "framework", "that", "provides", "both", "textual", "and", "quantitative", "summary", "of", "the", "main", "points", "in", "a", "col-", "lection", "of", "comments" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "KPA", "extracts", "a", "set", "of", "con-", "cise", ",", "high", "-", "quality", "sentences", "or", "phrases", ",", "termed", "Key", "Points", ",", "and", "maps", "each", "of", "the", "input", "sentences", "to", "its", "corresponding", "key", "points" ]	[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "prevalence", "of", "each", "key", "point", "is", "quantified", "as", "the", "number", "of", "its", "matching", "sentences", "KPA", "summaries", "are", "more", "expressive", "than", "the", "commonly", "-", "used", "word", "clouds", "and", "key", "phrases", ",", "while", "adding", "an", "important", "quan-", "titative", "dimension", "that", "is", "missing", "from", "plain", "text", "summaries" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "KPA", "algorithm", "aims", "to", "extract", "a", "set", "of", "key", "points", "that", "provide", "high", "coverage", "of", "the", "data", ",", "while", "removing", "redundancies" ]	[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "It", "employs", "two", "super-", "vised", "models", ":", "one", "for", "assessing", "the", "quality", "of", "key", "point", "candidates", ",", "and", "another", "one", "for", "computing", "a", "match", "score", "between", "a", "sentence", "and", "a", "candidate", "key", "point", "Bar", "-", "Haim", "et", "al", "(", "2021", ")", "adapted", "KPA", "to", "business", "reviews", ",", "by", "introducing", "several", "exten-", "sions", "to", "the", "original", "algorithm" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "particular", ",", "they", "integrated", "sentiment", "analysis", "into", "KPA", ",", "creating", "separate", "summaries", "for", "positive", "and", "negative", "sen-", "tences" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "They", "also", "developed", "a", "specialized", "key", "point", "quality", "model", "for", "the", "business", "reviews", "domain", "Entailment", "Graphs" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName" ]
[ "Most", "of", "the", "prior", "work", "on", "entailment", "graphs", "has", "focused", "on", "learning", "entail-", "ment", "relations", "between", "predicates", ",", "while", "satisfying", "some", "global", "constraints", "such", "as", "transitivity", "(", "Berant", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2010", ")", ",", "soft", "transitivity", "(", "Chen", "et", "al", ",", "2022", ")", ",", "and", "other", "types", "of", "soft", "constraints", "(", "Hosseini", "et", "al", ",", "2018", ")", "Levy", "et", "al", "(", "2014", ")", "extended", "the", "notion", "of", "entailment", "graphs", "to", "instantiated", "predicates", "Most", "similar", "to", "our", "Key", "Point", "Hierarchies", "are", "en-913", "tailment", "graphs", "over", "text", "fragments", ",", "introduced", "by", "Kotlerman", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Their", "motivating", "scenario", "was", "summarizing", "customer", "feedback", ",", "for", "which", "they", "developed", "a", "benchmark", "dataset", "However", ",", "the", "text", "fragments", "in", "this", "dataset", "were", "extracted", "man-", "ually", "The", "approach", "proposed", "in", "the", "current", "work", ",", "which", "first", "finds", "the", "most", "salient", "points", "in", "the", "data", "using", "KPA", ",", "and", "then", "constructs", "a", "hierarchy", "from", "the", "extracted", "key", "points", ",", "allows", "fully", "-", "automatic", "generation", "of", "structured", "summaries", "for", "large", "collec-", "tions", "of", "opinions", ",", "views", "or", "arguments" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Construct-", "ing", "hierarchies", "over", "automatically", "-", "extracted", "key", "points", ",", "which", "are", "often", "noisy", "and", "imperfect", ",", "rep-", "resents", "a", "more", "realistic", "scenario", ",", "and", "makes", "both", "manual", "annotation", "of", "KPHs", "and", "their", "automatic", "construction", "more", "challenging" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O" ]
[ "3", "Key", "Point", "Hierarchies", "Figure", "1", "illustrates", "the", "transformation", "of", "a", "flat", "key", "point", "list", "into", "a", "Key", "Point", "Hierarchy", "(", "KPH", ")" ]	[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "Formally", ",", "given", "a", "list", "of", "key", "points", "K=", "{", "k1", ",", "k2", ",", "...", ",", "k", "n", "}", ",", "we", "define", "a", "KPH", "H=", "(", "V", ",", "E", ")", "as", "a", "directed", "forest", ",", "that", "is", ",", "His", "a", "Directed", "Acyclic", "Graph", "(", "DAG", ")", "where", "each", "node", "has", "no", "more", "than", "one", "parent" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "vertices", "Vare", "clusters", "of", "key", "points", "{", "C1", ",", "...", ",", "C", "m", "}", "that", "convey", "similar", "ideas", ",", "and", "the", "directed", "edges", "ϵij∈", "Erepresent", "hierarchical", "rela-", "tions", "between", "clusters", "CiandCj", "Similar", "to", "Kotler-", "man", "et", "al", "(", "2015", ")", ",", "a", "directed", "edge", "Ci−", "→Cjindi-", "cates", "that", "the", "key", "points", "in", "Ciprovide", "elaboration", "and", "support", "for", "the", "key", "points", "in", "Cj", "By", "transitivity", ",", "this", "relation", "extends", "to", "any", "two", "clusters", "CiandCk", "such", "that", "there", "is", "a", "directed", "path", "in", "Hfrom", "Cito", "Ck", ",", "which", "we", "denote", "as", "Ci", ";", "Ck", "Accordingly", ",", "we", "define", "R", "(", "H", ")", "as", "the", "set", "of", "directional", "relations", "between", "pairs", "of", "key", "points", "(", "x", ",", "y", ")", "that", "can", "be", "de-", "rived", "from", "Has", ":", "R", "(", "H", ")", "=", "{", "(", "x", ",", "y", ")", ")", "\|Cx", "=", "Cy∨Cx", ";", "Cy", "}", "(", "1", ")", "where", "Cx", ",", "Cy∈", "V", "are", "the", "clusters", "of", "xandyre-", "spectively", "Considering", "the", "example", "in", "Figure", "1", ",", "R", "(", "H", ")", "includes", "the", "relations", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "personnel", "were", "great", "”", ",", "“", "House-", "keeping", "was", "fantastic", "”", "−", "→“Friendly", "service", "all", "around", "”", ",", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "cleaning", "crew", "is", "great", "”", ",", "and", "so", "on", "We", "chose", "a", "hierarchical", "representation", "over", "a", "more", "general", "graph", "structure", "since", "it", "results", "in", "a", "simpler", "output", "that", "is", "easier", "to", "consume", "In", "addi-", "tion", ",", "this", "greatly", "simplified", "the", "annotation", "process", "We", "found", "that", "hierarchical", "representation", "workswell", "in", "practice", ",", "as", "the", "vast", "majority", "of", "the", "nodes", "in", "our", "dataset", "did", "not", "have", "more", "than", "one", "potential", "parent", "This", "is", "in", "line", "with", "previous", "work", ",", "which", "suggested", "that", "entailment", "graphs", "tend", "to", "have", "a", "tree", "-", "like", "structure", "(", "Berant", "et", "al", ",", "2012", ")", "4", "T", "HINK", "P", ":", "A", "Dataset", "for", "Key", "Point", "Hierarchies", "In", "this", "section", "we", "present", "THINK", "P", ",", "a", "benchmark", "dataset", "of", "key", "point", "hierarchies" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "build", "THINK", "P", ",", "we", "first", "apply", "Key", "Point", "Analysis", "to", "reviews", "of", "busi-", "nesses", "and", "products", "from", "multiple", "domains", "(", "§", "4.1", ")" ]	[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "KPH", "is", "then", "constructed", "manually", "from", "the", "set", "of", "key", "points", "extracted", "for", "each", "business", "or", "prod-", "uct", "(", "§", "4.2", ")" ]	[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "provide", "statistics", "on", "the", "resulting", "dataset", ",", "as", "well", "as", "qualitative", "analysis", "of", "the", "types", "of", "inferences", "it", "includes", "(", "§", "4.3", ")", "4.1", "Key", "Point", "Set", "Generation", "The", "first", "step", "in", "creating", "the", "dataset", "was", "to", "run", "KPA", "on", "the", "reviews", "of", "selected", "businesses", "and", "products" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Our", "implementation", "follows", "(", "Bar", "-", "Haim", "et", "al", ",", "2021", ")", ",", "who", "suggested", "several", "extensions", "of", "KPA", "for", "analyzing", "business", "reviews.2For", "each", "business", ",", "two", "separate", "summaries", "of", "positive", "and", "negative", "key", "points", "are", "created" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "examine", "the", "syn-", "tactic", "(", "§", "3.3.1", ")", "and", "semantic", "(", "§", "3.3.2", ")", "features", "of", "prompt", "text", "via", "interactive", "data", "visualizations", "Lastly", ",", "We", "discuss", "the", "implications", "of", "our", "findings", "and", "suggest", "future", "research", "directions", "3.3.1", "Prompt", "Syntactic", "Features", "To", "characterize", "the", "composition", "of", "prompts", ",", "we", "parse", "phrases", "from", "all", "1.8", "M", "unique", "prompts", "We", "split", "each", "prompt", "by", "commas", "and", "then", "extract", "named", "entities", "(", "NE", ")", "and", "noun", "phrases", "(", "NP", ")", "from", "each", "separated", "component", "using", "use", "Spacy", "(", "Hon-", "nibal", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ ",", "2020", ")", "If", "there", "is", "no", "noun", "phrase", "in", "a", "comma", "-", "separated", "component", ",", "we", "extract", "the", "whole", "component", "(", "C", ")", "as", "a", "phrase", "We", "keep", "track", "of", "each", "NP", "’s", "root", "to", "create", "a", "hierarchy", "of", "noun", "phrases", "For", "example", ",", "for", "the", "prompt", "“", "draw", "baby", "yoda", "in", "a", "loading", "screen", "for", "grand", "theft", "auto", "5", ",", "highly", "detailed", ",", "digital", "art", ",", "concept", "art", ",", "”", "we", "extract", "six", "phrases", ":", "“", "baby", "yoda", "”", "(", "NE", ")", ",", "“", "a", "loading", "screen", "”", "(", "NP", "with", "root", "“", "screen", "”", ")", ",", "“", "grand", "theft", "auto", "5", "”", "(", "NE", ")", ",", "“", "highly", "detailed", "”", "(", "C", ")", ",", "“", "digital", "art", "’", "(", "NP", "with", "root", "“", "art", "”", ")", ",", "and", "“", "concept", "art", "”", "(", "NP", "with", "root", "“", "art", "”", ")", "We", "group896", "Fig", "5", ":", "We", "identify", "and", "group", "popular", "phrases", "in", "prompts", "through", "named", "entity", "recognition", "and", "dependency", "parsing", "Our", "interactive", "circle", "-", "packing", "visualization", "highlights", "the", "distribution", "and", "hierarchy", "of", "these", "phrases", "(", "A", ")", "The", "Overview", "visualizes", "each", "phrase", "as", "a", "circle", ",", "with", "its", "size", "representing", "the", "phrase", "’s", "frequency", "In", "this", "example", ",", "a", "viewer", "clicks", "a", "circle", "to", "zoom", "into", "the", "“", "painting", "”", "phrase", "(", "B1", ")", "TheDetail", "View", "shows", "all", "noun", "phrases", "that", "use", "“", "painting", "”", "as", "their", "root", "(", "B2", ")", "Similarly", ",", "it", "shows", "all", "phrases", "that", "include", "“", "oil", "painting", "”", "when", "the", "viewer", "zooms", "into", "“", "oil", "painting", "”", "“", "digital", "art", "”", "and", "“", "concept", "art", "”", "into", "the", "same", "hierarchy", "as", "they", "share", "the", "same", "NP", "root", "“", "art", "”", "Visualizing", "Prompt", "Phrases", "We", "create", "an", "in-", "teractive", "circle", "packing", "visualization3to", "gain", "an", "understanding", "of", "the", "distribution", "and", "relationships", "between", "different", "phrases", "(", "Fig", "5", ")", "Circle", "pack-", "ing", "(", "Wang", "et", "al", ",", "2006", ")", "is", "a", "technique", "to", "visualize", "hierarchical", "data", ",", "and", "each", "phrase", "is", "represented", "as", "a", "circle", "whose", "size", "encodes", "the", "phrase", "’s", "frequency", "in", "the", "dataset", "We", "position", "sibling", "noun", "phrases", "(", "e.g.", ",", "phrases", "sharing", "the", "same", "NP", "root", ")", "inside", "their", "parent", "phrase", "’s", "circle", "through", "a", "front", "-", "chain", "packing", "algorithm", "(", "Wang", "et", "al", ",", "2006", ")", "Viewers", "can", "hover", "over", "a", "circle", "to", "see", "the", "corresponding", "phrase", "and", "its", "frequency", "Viewers", "can", "also", "click", "a", "circle", "(", "Fig", "5A", ")", "to", "zoom", "into", "that", "sub", "-", "tree", "to", "see", "more", "details", "about", "a", "phrase", "(", "Fig", "5", "-", "B1", ")", "or", "a", "sub", "-", "phrase", "(", "Fig", "5", "-", "B2", ")", "Insights", "and", "implications", "Our", "interactive", "visu-", "alization", "reveals", "that", "key", "phrases", "such", "as", "“", "highly", "detailed", ",", "”", "“", "intricate", ",", "”", "and", "“", "greg", "rutkowski", "”", "3Phrase", "visualization", ":", "https", ":", "/", "/", "poloclub.github.io", "/", "diffusiondb", "/", "explorer", "#", "phraseare", "commonly", "used", "in", "prompts", "(", "Fig", "5A", ")", "The", "hierarchical", "visualization", "also", "surfaces", "popular", "image", "styles", "specified", "by", "users", ",", "such", "“", "digital", "painting", ",", "”", "“", "oil", "painting", ",", "”", "and", "“", "portrait", "painting", "”", "for", "painting", "styles", "(", "Fig", "5", "-", "B1", ")", "and", "“", "studio", "lighting", ",", "”", "“", "volumetric", "lighting", "”", ",", "and", "“", "atmospheric", "lighting", "”", "for", "lighting", "These", "phrases", "can", "be", "unfamiliar", "to", "Stable", "Diffusion", "users", ",", "especially", "beginners", ",", "which", "highlights", "the", "impor-", "tance", "of", "helping", "users", "develop", "prompting", "vocab-", "ularies" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Researchers", "can", "leverage", "DIFFUSION", "DB", "and", "our", "visualization", "to", "design", "tutorials", "and", "user", "interfaces", "that", "integrate", "exemplar", "prompts", "to", "guide", "users", "in", "describing", "their", "desired", "images" ]

[ "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.3.2", "Prompt", "Semantic", "Features", "In", "addition", "to", "analyzing", "the", "syntactic", "characteris-", "tics", "of", "prompts", ",", "we", "also", "analyze", "their", "semantic", "fea-", "tures", "We", "use", "a", "pre", "-", "trained", "CLIP", "model", "(", "Radford", "et", "al", ",", "2021", ")", "to", "extract", "semantic", "features", "(", "Ramesh", "et", "al", ",", "2022", ")", "We", "use", "a", "frozen", "CLIP", "ViT", "-", "L", "/", "14", "text", "encoder", "(", "the", "same", "model", "used", "in", "Stable", "Diffusion", ")", "to", "convert", "prompts", "into", "768", "-", "dimension", "vectors.897", "Fig" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "6", ":", "An", "interactive", "contour", "plot", "of", "1.8", "M", "prompts", "’", "CLIP", "embeddings", ",", "created", "with", "UMAP", "and", "kernel", "den-", "sity", "estimation", "Text", "labels", "show", "the", "top", "keywords", "of", "prompts", "in", "a", "grid", "tile", "It", "reveals", "popular", "prompt", "topics", "Visualizing", "Prompt", "Embeddings", "To", "study", "the", "distribution", "of", "prompts", "in", "high", "-", "dimensional", "space", ",", "we", "use", "UMAP", "(", "McInnes", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2020", ")", "to", "project", "768", "-", "dimensional", "vectors", "into", "2", "-", "D", "vectors", "for", "easy", "visualization", "UMAP", "is", "a", "popular", "dimensional-", "ity", "reduction", "technique", "that", "is", "better", "at", "preserv-", "ing", "the", "global", "structure", "of", "data", "and", "more", "scal-", "able", "to", "large", "datasets", "compared", "to", "t", "-", "SNE", "(", "van", "der", "Maaten", "and", "Hinton", ",", "2008", ")", "and", "PCA", "(", "Hotelling", ",", "1936", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ "We", "use", "grid", "search", "to", "fine", "-", "tune", "hyperpa-", "rameters", "n_neighbors", "(", "60", ")", "and", "min_dist", "(", "0.1", ")", "so", "that", "prompts", "are", "more", "spread", "out", "in", "a", "2", "-", "D", "space" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "develop", "an", "interactive", "visualization", "tool4to", "explore", "prompts", "’", "semantic", "embeddings", "(", "Fig", "6", ")", "We", "use", "Kernel", "Density", "Estimation", "(", "KDE", ")", "(", "Rosen-", "blatt", ",", "1956", ")", "with", "a", "standard", "multivariate", "Gaussian", "kernel", "and", "Silverman", "bandwidth", "(", "Silverman", ",", "2018", ")", "to", "estimate", "the", "distribution", "of", "prompts", "’", "UMAP", "rep-", "resentations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O" ]

[ "Then", ",", "we", "visualize", "the", "estimated", "dis-", "tribution", "as", "a", "contour", "plot", "To", "summarize", "prompts", "that", "are", "in", "the", "same", "region", ",", "we", "create", "four", "grids", "with", "varying", "granularity", "and", "pre", "-", "compute", "key-", "words", "for", "each", "grid", "tile", ",", "by", "treating", "all", "prompts", "in", "the", "tile", "as", "a", "document", "and", "selecting", "the", "top", "4", "keywords", "with", "the", "highest", "TF", "-", "IDF", "scores" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName" ]

[ "Interactions", "Our", "visualization", "shows", "keywords", "of", "tiles", "that", "are", "close", "to", "high", "-", "density", "regions", "and", "prompt", "clusters", "by", "default", "Viewers", "can", "hover", "over", "a", "tile", "to", "see", "its", "keywords", ",", "pan", "and", "zoom", "in", "to", "see", "more", "details", "of", "specific", "regions", ",", "and", "click", "a", "button", "to", "display", "each", "prompt", "as", "a", "small", "dot", "that", "viewers", "can", "hover", "over", "to", "read", "its", "prompt", "text", "4Prompt", "embedding", "visualization", ":", "https", ":", "/", "/", "poloclub", "github.io", "/", "diffusiondb", "/", "explorer", "/", "#", "prompt-embedding", "Fig", "7", ":", "CLIP", "embeddings", "of", "2", "M", "randomly", "selected", "images", "shown", "as", "a", "contour", "plot", ",", "with", "text", "labels", "being", "keywords", "of", "prompts", "in", "the", "grid", "tiles", "It", "shows", "images", "have", "a", "different", "embedding", "distribution", "from", "prompts", "Insights", "and", "implications", "Our", "semantic", "embed-", "ding", "visualization", "(", "Fig", "6", ")", "highlights", "two", "popular", "prompt", "categories", ":", "art", "-", "related", "prompts", "(", "left", "in", "the", "plot", ")", "and", "photography", "-", "related", "prompts", "(", "dark", "blue", "regions", "on", "the", "right", ")", "These", "two", "groups", "appear", "distant", "from", "each", "other", "in", "the", "UMAP", "space", ",", "sug-", "gesting", "that", "the", "prompts", "for", "art", "and", "photography", "typically", "have", "distinct", "semantic", "representations", "In-", "terestingly", ",", "photography", "prompts", "appear", "to", "contain", "two", "clusters", ":", "one", "for", "non", "-", "human", "objects", "(", "top", "right", ")", "and", "another", "for", "celebrities", "(", "bottom", "right", ")", "Small", "prompt", "clusters", "outside", "the", "central", "area", "often", "fea-", "ture", "artist", "names", "Our", "findings", "suggest", "that", "future", "researchers", "can", "leverage", "the", "prompt", "usage", "distri-", "bution", "to", "fine", "-", "tune", "generative", "models", "to", "tailor", "to", "specific", "popular", "prompt", "categories", "3.4", "Characterizing", "Images", "We", "visualize5the", "CLIP", "embedding", "distribution", "of", "2", "million", "unique", "image", "instances", "randomly", "sam-", "pled", "from", "DIFFUSION", "DB", "(", "Fig" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]

[ "7", ")", "by", "defining", "the", "unique", "key", "as", "the", "combination", "of", "the", "image", "’s", "prompt", "and", "hyperparameters", "CFG", "scale", ",", "step", ",", "size", ",", "and", "seed" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName" ]

[ "We", "use", "the", "UMAP", "model", "that", "was", "previously", "trained", "on", "the", "prompt", "embeddings", "to", "project", "the", "image", "embeddings", "into", "the", "same", "2", "-", "D", "space" ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Finally", ",", "we", "apply", "the", "same", "method", "we", "used", "for", "our", "prompt", "embedding", "visualization", "(", "§", "3.3.2", ")", "to", "generate", "a", "contour", "plot", "and", "grid", "label", "overlays", "Insights", "and", "implications", "Our", "image", "embed-", "ding", "visualization", "reveals", "that", "generated", "images", "have", "a", "different", "distribution", "from", "their", "prompts", "in", "the", "CLIP", "embedding", "space", "For", "example", ",", "the", "5Image", "embedding", "visualization", ":", "https", ":", "/", "/", "poloclub", "github.io", "/", "diffusiondb", "/", "explorer", "/", "#", "image-embedding898", "“", "movie", "”", "cluster", "in", "the", "prompt", "embedding", "has", "been", "replaced", "by", "the", "“", "portrait", "”", "cluster", "in", "the", "image", "em-", "bedding", "This", "suggests", "the", "semantic", "representa-", "tions", "of", "prompts", "and", "their", "generated", "images", "may", "not", "be", "perfectly", "aligned", "One", "hypothesis", "is", "that", "large", "image", "generative", "models", "face", "limitations", "when", "generating", "photorealistic", "human", "faces", "(", "Borji", ",", "2022", ")", ",", "and", "therefore", "some", "images", "generated", "with", "movie", "-", "related", "prompts", "appear", "to", "be", "closer", "to", "art", "and", "portrait", "regions", "in", "the", "embedding", "space", "3.5", "Stable", "Diffusion", "Error", "Analysis", "We", "leverage", "DIFFUSION", "DBto", "discover", "Stable", "Dif-", "fusion", "generation", "failure", "cases", "and", "examine", "po-", "tential", "causes" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "surface", "poor", "image", "generations", ",", "we", "compute", "CLIP", "embeddings", "for", "all", "prompts", "and", "images", "in", "DIFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]

[ "We", "then", "select", "prompt-", "image", "pairs", "with", "a", "large", "cosine", "distance", "(", "d", ")", "be-", "tween", "their", "embeddings", "The", "cosine", "distances", "have", "a", "normal", "distribution", "(", "N", "(", "0.7123,0.04132", ")", ")", "In", "this", "analysis", ",", "we", "focus", "on", "13,411", "“", "bad", "”", "prompt-", "image", "pairs", "(", "1", ")", "with", "a", "distance", "that", "is", "larger", "than", "4", "standard", "deviations", "from", "the", "mean", "and", "(", "2", ")", "the", "image", "was", "not", "blurred", "by", "Stable", "Diffusion", "(", "§", "2.3", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ "Impacts", "of", "hyperparameters", "We", "conduct", "a", "lo-", "gistic", "regression", "test", "to", "analyze", "the", "relationship", "between", "Stable", "Diffusion", "hyperparameter", "values", "(", "e.g.", ",", "CFG", "scale", ",", "step", ",", "width", ",", "and", "height", ")", "and", "the", "likelihood", "of", "generating", "an", "image", "that", "is", "se-", "mantically", "different", "from", "its", "prompt" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "reveal", "that", "all", "four", "hyperparameters", "are", "negatively", "correlated", "with", "the", "likelihood", "of", "generating", "a", "bad", "image", "The", "correlation", "is", "statistically", "significant", "with", "a", "p", "-", "value", "of", "less", "than", "0.0001", "for", "all", "four", "vari-", "ables" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "we", "find", "the", "distribution", "of", "selected", "sampler", "options", "when", "generating", "bad", "im-", "ages", "is", "significantly", "different", "from", "the", "overall", "dis-", "tribution", "(", "X2=", "40873", ".11", ",", "p", "<", "0.0001", ")", "CFG", "scale", "con-", "trols", "how", "much", "the", "generated", "image", "looks", "like", "the", "prompt" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "find", "some", "users", "spec-", "ify", "negative", "CFG", "scales", "that", "make", "images", "look", "different", "from", "their", "prompts", "(", "large", "cosine", "distance", "d", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "example", "shown", "on", "the", "right", ",", "a", "user", "gen-", "erates", "an", "image", "using", "a", "prompt", "about", "“", "superman", "”", "with", "all", "default", "hyperparameters", "values", ",", "except", "for", "setting", "CFG", "scale", "to-1" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue" ]

[ "This", "results", "in", "an", "image", "featuring", "a", "bowl", "of", "soup", "instead", "of", "“", "superman", "”", "A", "small", "step", "could", "also", "generate", "under-", "developed", "images", "that", "look", "different", "from", "the", "specified", "prompts", "As", "demonstrated", "in", "the", "example", "on", "the", "right", ",", "a", "user", "generates", "an", "image", "about", "“", "plague", "doctor", "”", "with", "all", "default", "hyperparameter", "values", ",", "except", "for", "setting", "step", "to2", ",", "which", "leads", "to", "a", "blurry", "image", "Stable", "Diffusion", "struggles", "with", "generating", "images", "with", "a", "small", "size", "or", "large", "aspect", "ratios" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "dissimilar", "image", "shown", "on", "the", "right", "is", "generated", "with", "default", "hyper-", "parameters", "except", "for", "a", "size", "of", "(", "64,512", ")", "Impacts", "of", "prompts", "Despite", "controlling", "all", "hyperparameters", "to", "be", "close", "to", "default", "values", ",", "we", "still", "find", "1.1k", "unique", "bad", "image", "-", "prompt", "pairs", "Most", "of", "these", "instances", "have", "non", "-", "English", "prompts", ",", "very", "short", "prompts", ",", "or", "prompts", "consisting", "primarily", "emojis", "(", "see", "an", "ex-", "ample", "on", "the", "right", ")", "The", "token", "lengths", "of", "these", "instances", "are", "significantly", "lower", "than", "the", "overall", "to-", "ken", "length", "(", "one", "-", "tailed", "t=−23.7203", ",", "p", "<", "0.0001", ")", "The", "English", "prompt", "frequency", "among", "these", "in-", "stances", "is", "also", "significantly", "lower", "than", "the", "overall", "frequency", "(", "X2=", "1024", ".56", ",", "p", "<", "0.0001", ")", "Inter-", "estingly", ",", "we", "also", "find", "that", "Stable", "Diffusion", "some-", "times", "generates", "unexpected", "images", "even", "when", "prompts", "are", "meaningful", "English", "sentences" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Future", "researchers", "can", "use", "our", "error", "analysis", "and", "failure", "cases", "to", "check", "potentially", "mislabeled", "training", "data", "Implications", "Our", "study", "reveals", "Stable", "Diffusion", "can", "make", "mistakes", "when", "generating", "images", "with", "certain", "hyperparameter", "values", "or", "prompt", "styles" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Negative", "CFG", "scales", ",", "small", "steps", ",", "or", "small", "sizes", "contributes", "to", "generating", "images", "dissimi-", "lar", "to", "prompts" ]

[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Short", "and", "non", "-", "English", "prompts", "can", "also", "lead", "to", "errors", "To", "improve", "the", "quality", "of", "fu-", "ture", "generative", "models", ",", "researchers", "can", "expand", "the", "training", "data", "to", "cover", "these", "edge", "cases", "There", "are", "opportunities", "for", "researchers", "to", "design", "user", "inter-", "faces", "that", "can", "help", "users", "understand", "the", "impact", "of", "different", "hyperparameters", "and", "guide", "them", "in", "choos-", "ing", "values", "that", "fit", "their", "specific", "use", "cases", "3.6", "Potentially", "Harmful", "Uses", "To", "identify", "potentially", "malicious", "uses", "of", "Stable", "Dif-", "fusion", ",", "we", "use", "named", "entity", "recognition", "to", "analyze", "prompts" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "find", "that", "many", "prompts", "include", "names899", "of", "influential", "politicians", ",", "such", "as", "over", "65k", "images", "generated", "with", "a", "prompt", "including", "“", "Donald", "Trump", "”", "and", "over", "48k", "images", "with", "“", "Joe", "Biden", "”", "Some", "prompts", "portray", "these", "politicians", "in", "negative", "lights", ",", "ranging", "from", "depicting", "them", "“", "as", "Gollum", "with", "hair", "”", "to", "“", "arrested", "in", "handcuffs", "”", "Addition-", "ally", ",", "we", "find", "female", "celebrities", "are", "frequently", "used", "in", "prompts", ",", "with", "a", "high", "frequency", "after", "artists", "and", "influential", "politicians", "Some", "of", "these", "prompts", "are", "presented", "in", "a", "sexual", "context", "that", "could", "be", "consid-", "ered", "nonconsensual", "pornography", "Through", "keyword", "search", ",", "we", "discover", "prompts", "generating", "misinformation", "that", "could", "cause", "harm", "For", "example", ",", "the", "prompt", "\"", "scientists", "putting", "microchips", "into", "a", "vaccine", "\"", "may", "harm", "pub-", "lic", "trust", "in", "medical", "institutions", "by", "potentially", "vali-", "dating", "conspiracy", "theories", "Similarly", ",", "the", "prompt", "\"", "Russian", "soldiers", "in", "gas", "masks", "found", "the", "last", "surviving", "ukrainian", "after", "a", "nuclear", "war", "to", "liberate", "ukraine", "\"", "depicts", "false", "images", "of", "the", "Russo", "-", "Ukrainian", "War", "and", "could", "lead", "to", "new", "forms", "of", "propaganda", "Our", "findings", "highlight", "the", "crucial", "need", "for", "further", "research", "on", "the", "broader", "impacts", "of", "large", "generative", "models", "and", "ways", "to", "regulate", "and", "mitigate", "their", "harms", "4", "Enabling", "New", "Research", "Directions", "The", "unprecedented", "scale", "and", "diversity", "of", "DIFFU", "-", "SION", "DBbring", "new", "exciting", "research", "opportunities", "to", "help", "users", "generate", "images", "more", "effectively", "and", "efficiently", ",", "and", "enable", "researchers", "to", "improve", ",", "ex-", "plain", ",", "and", "safeguard", "generative", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Prompt", "Autocomplete" ]

[ "B-TaskName", "I-TaskName" ]

[ "With", "DIFFUSION", "DB", ",", "re-", "searchers", "can", "develop", "an", "autocomplete", "system", "to", "help", "users", "construct", "prompts" ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "one", "can", "use", "the", "prompt", "corpus", "to", "train", "an", "n", "-", "gram", "model", "to", "predict", "likely", "words", "following", "a", "prompt", "part", "Alternatively", ",", "researchers", "can", "use", "semantic", "auto-", "complete", "(", "Hyvönen", "and", "Mäkelä", ",", "2006", ")", "by", "cate-", "gorizing", "prompt", "keywords", "into", "ontological", "cate-", "gories", "such", "as", "subject", ",", "style", ",", "quality", ",", "repetition", ",", "and", "magic", "terms", "(", "Oppenlaender", ",", "2022", ")", "This", "allows", "the", "system", "to", "suggest", "related", "keywords", "from", "un-", "specified", "categories", ",", "for", "example", "suggesting", "style", "keyword", "“", "depth", "of", "field", "”", "and", "a", "magic", "keyword", "“", "award", "-", "winning", "”", "to", "improve", "the", "quality", "of", "gener-", "ated", "images", "Additionally", ",", "researchers", "can", "also", "use", "DIFFUSION", "DBto", "study", "prompt", "auto", "-", "replace", "by", "distilling", "effective", "prompt", "patterns", "and", "creating", "a", "“", "translation", "”", "model", "that", "replaces", "weaker", "prompt", "keywords", "with", "more", "effective", "ones" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Generation", "through", "Search", "AsDIFFUSION", "DB", "contains", "14", "million", "images", ",", "this", "dataset", "might", "have", "already", "included", "images", "with", "a", "user", "’s", "desired", "ef-", "fects" ]

[ "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "a", "user", "can", "quickly", "search", "images", "in", "DIFFUSION", "DBinstead", "of", "running", "Stable", "Diffusion", ",", "which", "can", "be", "slow", "and", "costly" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Lexica", "(", "Shameem", ",", "2022", ")", ",", "an", "AI", "start", "-", "up", ",", "provides", "such", "a", "search", "en-", "gine", ",", "where", "users", "can", "search", "Stable", "Diffusion", "im-", "ages", "by", "natural", "language", "or", "images" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Researchers", "can", "also", "construct", "a", "structured", "index", "of", "images", "and", "prompts", ",", "such", "as", "building", "a", "semantivisual", "image", "hierarchy", "of", "images", "(", "Li", "et", "al", ",", "2010", ")", "or", "a", "hierarchi-", "cal", "topic", "model", "of", "prompts", "(", "Griffiths", "et", "al", ",", "2003", ")", ",", "to", "help", "users", "easily", "discover", "and", "explore", "images", "and", "prompts", "with", "similar", "styles", "Improving", "Generative", "Models", "With", "DIFFU", "-", "SION", "DB", ",", "a", "large", "and", "diverse", "collection", "of", "Sta-", "ble", "Diffusion", "usage", "logs", ",", "researchers", "not", "only", "can", "identify", "weak", "points", "and", "failure", "modes", "of", "Stable", "Diffusion", "but", "also", "gain", "insights", "into", "user", "pref-", "erences" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "we", "demonstrate", "that", "re-", "searchers", "can", "use", "joint", "text", "-", "image", "embeddings", "be-", "tween", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", "Additionally", ",", "DIFFUSION", "DB", "provides", "important", "metadata", "such", "as", "username", "hash", "andtimestamp", "for", "each", "generated", "image" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "By", "analyzing", "these", "metadata", "fields", ",", "researchers", "can", "trace", "the", "evolution", "chain", "of", "prompts", ",", "parameters", ",", "and", "images", ",", "which", "offers", "valuable", "insights", "into", "how", "users", "develop", "mental", "models", "of", "large", "generative", "models", "and", "their", "preferences", "of", "generated", "images", "This", "understanding", "can", "inform", "future", "researchers", "to", "enhance", "generative", "models", "and", "design", "interfaces", "that", "facilitate", "better", "image", "-", "generation", "experiences", "Explainable", "Generation", "As", "generative", "models", "have", "been", "gaining", "immense", "popularity", ",", "there", "is", "a", "call", "for", "explainable", "creativity", "(", "Llano", "et", "al", ",", "2022", ")", "Many", "explanation", "techniques", "use", "input", "permuta-", "tion", "that", "computes", "feature", "attribution", "scores", "by", "running", "a", "model", "on", "slightly", "-", "modified", "input", "val-", "ues", "(", "Lundberg", "and", "Lee", ",", "2017", ")", "DIFFUSION", "DB", "contains", "14", "million", "prompt", "-", "image", "pairs", "including", "similar", "prompts", "with", "minor", "differences", ",", "such", "as", "“", "a", "happy", "dog", "”", "and", "“", "a", "sad", "dog", "”", ",", "allowing", "re-", "searchers", "to", "investigate", "how", "individual", "keywords", "affect", "the", "generation", "process" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Deepfake", "Detection" ]

[ "B-TaskName", "I-TaskName" ]

[ "Breakthroughs", "in", "gener-", "ative", "models", "raise", "concerns", "about", "deepfakes", "—", "fake", "images", "of", "real", "individuals", "for", "unethical", "pur-", "poses", "(", "Wiggers", ",", "2022", ")", "DIFFUSION", "DBis", "valu-900", "able", "for", "detecting", "deepfakes", ",", "as", "it", "contains", "a", "large-", "scale", "collection", "of", "model", "-", "generated", "images", "and", "their", "metadata" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Researchers", "can", "use", "this", "collection", "to", "train", "ML", "models", "to", "identify", "synthetic", "artifacts", "and", "train", "classifiers", "that", "classify", "synthetic", "images", "from", "real", "images", "(", "Mirsky", "and", "Lee", ",", "2022", ")", "5", "Related", "Work", "Text", "-", "to", "-", "text", "Prompting" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "Researchers", "have", "been", "studying", "prompt", "engineering", "for", "text", "-", "to", "-", "text", "gener-", "ation", "(", "e.g.", ",", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ ",", "2022", ";", "Lu", "et", "al", ",", "2022", ";", "Rubin", "et", "al", ",", "2022", ")", "To", "facilitate", "this", "line", "of", "research", ",", "researchers", "develop", "PromptSource", "(", "Bach", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2022", ")", ",", "a", "dataset", "of", "2k", "text", "prompts", "along", "with", "a", "framework", "to", "create", "and", "share", "prompts", "In", "contrast", ",", "our", "work", "focuses", "on", "text", "-", "to", "-", "image", "prompting", ",", "and", "DIFFUSION", "DBhas", "an", "unprecedented", "scale", "of", "14", "million", "real", "prompt", "-", "image", "pairs" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Text", "-", "to", "-", "image", "Prompting" ]

[ "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "There", "is", "a", "growing", "interest", "in", "text", "-", "to", "-", "image", "prompt", "engineering", "re-", "search", "from", "NLP", ",", "Computer", "Vision", ",", "and", "HCI", "communities", "(", "e.g.", ",", "Qiao", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2022", ";", "Pavlichenko", "and", "Ustalov", ",", "2022", ")", "For", "example", ",", "Oppenlaen-", "der", "(", "2022", ")", "identifies", "six", "types", "of", "prompt", "modi-", "fiers", "through", "an", "ethnographic", "study", ",", "and", "Liu", "and", "Chilton", "(", "2022", ")", "proposes", "design", "guidelines", "for", "text-", "to", "-", "image", "prompt", "engineering", "by", "experimenting", "with", "1,296", "prompts" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O" ]

[ "Closest", "in", "spirit", "to", "DIFFU", "-", "SION", "DBis", "Lexica", "(", "Shameem", ",", "2022", ")", "which", "allows", "users", "to", "search", "over", "5", "million", "Stable", "Diffusion", "im-", "ages", "with", "their", "prompts", ",", "but", "it", "does", "not", "release", "its", "internal", "database" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "comparison", ",", "DIFFUSION", "DB", "is", "open", "-", "source", "and", "publicly", "available", "to", "everyone" ]

[ "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "6", "Conclusion", "We", "present", "DIFFUSION", "DB", ",", "the", "first", "large", "-", "scale", "text", "-", "to", "-", "image", "prompt", "dataset", ",", "containing", "14", "million", "images", "with", "their", "prompts", "and", "hyperparameters", "col-", "lected", "from", "the", "Stable", "Diffusion", "discord", "server" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]

[ "We", "release", "the", "dataset", "with", "a", "CC0", "1.0", "license", "and", "open", "source", "all", "collection", "and", "analysis", "code", ",", "broadening", "the", "public", "’s", "access", "to", "cutting", "-", "edge", "AI", "technologies", "We", "discuss", "findings", "on", "prompt", "and", "image", "patterns", "We", "hope", "our", "work", "will", "serve", "as", "a", "cornerstone", "for", "the", "future", "development", "of", "large", "generative", "modes", "and", "tools", "that", "help", "users", "use", "these", "modes", "7", "Limitations", "We", "discuss", "four", "limitations", "of", "our", "work", ":", "the", "in-", "clusion", "of", "unsafe", "content", ",", "potential", "biases", "in", "datasources", ",", "a", "limited", "measure", "of", "image", "quality", "and", "generalizability", "to", "different", "generative", "models", "•Inclusion", "of", "unsafe", "images", "and", "prompts", "We", "collect", "images", "and", "their", "prompts", "from", "the", "Sta-", "ble", "Diffusion", "Discord", "server", "(", "§", "2", ")", "The", "Dis-", "cord", "server", "has", "rules", "against", "users", "generating", "or", "sharing", "harmful", "or", "NSFW", "(", "not", "suitable", "for", "work", ",", "such", "as", "sexual", "and", "violent", "content", ")", "images", "The", "Stable", "Diffusion", "model", "used", "in", "the", "server", "also", "has", "an", "NSFW", "filter", "that", "blurs", "the", "generated", "images", "if", "it", "detects", "NSFW", "content" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "we", "observe", "that", "DIFFUSION", "DBincludes", "some", "NSFW", "images", "that", "were", "not", "detected", "by", "the", "NSFW", "filter", "or", "removed", "by", "the", "server", "modera-", "tors" ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "mitigate", "the", "potential", "harm", ",", "we", "compute", "and", "share", "the", "likelihood", "of", "an", "image", "or", "a", "prompt", "containing", "unsafe", "content", "using", "the", "state", "-", "of", "-", "the-", "art", "NSFW", "detectors", "(", "§", "2.3", ")", "In", "addition", ",", "we", "provide", "a", "Google", "Form", "on", "the", "DIFFUSION", "DB", "website", "where", "users", "can", "report", "harmful", "or", "inap-", "propriate", "images", "and", "prompts" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "will", "closely", "monitor", "this", "form", "and", "remove", "reported", "images", "and", "prompts", "from", "D", "IFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "•Potential", "biases", "of", "the", "data", "source", "The", "14", "million", "images", "in", "DIFFUSION", "DBhave", "diverse", "styles", "and", "categories" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "However", ",", "Discord", "can", "be", "a", "biased", "data", "source", "Our", "images", "come", "from", "channels", "where", "early", "users", "could", "use", "a", "bot", "to", "use", "Stable", "Diffusion", "before", "release" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]

[ "As", "these", "users", "had", "started", "using", "Stable", "Diffusion", "before", "the", "model", "was", "public", ",", "we", "hypothesize", "that", "they", "are", "AI", "art", "enthusiasts", "and", "are", "likely", "to", "have", "experi-", "ence", "with", "other", "text", "-", "to", "-", "image", "generative", "models" ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "the", "prompting", "style", "in", "DIFFUSION", "DB", "might", "not", "represent", "novice", "users" ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O" ]

[ "Similarly", ",", "the", "prompts", "in", "DIFFUSION", "DBmight", "not", "generalize", "to", "domains", "that", "require", "specific", "knowledge", ",", "such", "as", "medical", "images", "(", "Chambon", "et", "al" ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2022", ")", "•Limited", "measure", "of", "image", "quality", "We", "use", "joint", "text", "-", "image", "CLIP", "embeddings", "between", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", "While", "the", "CLIP", "embedding", "distance", "can", "indicate", "the", "degree", "of", "alignment", "between", "the", "prompts", "and", "generated", "images", ",", "it", "does", "not", "provide", "a", "measure", "of", "the", "overall", "image", "quality" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "constructing", "our", "dataset", ",", "we", "have", "considered", "including", "image", "properties", "such", "as", "entropy", ",", "variance", ",", "and", "the", "most", "common", "colors", "to", "help", "users", "gauge", "image", "qualities", "However", ",", "these", "metrics", "do", "not", "provide", "a", "good", "measure", "of", "the", "overall", "image", "quality", "as", "well", "To", "better", "mea-901", "sure", "image", "quality", ",", "future", "researchers", "can", "recruit", "annotators", "to", "rate", "images", "in", "D", "IFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "•Generalizability", "Previous", "research", "has", "shown", "a", "prompt", "that", "works", "well", "on", "one", "generative", "model", "might", "not", "give", "the", "optimal", "result", "when", "used", "in", "other", "models", "(", "Borji", ",", "2022", ")", "Therefore", ",", "different", "models", "can", "need", "users", "to", "write", "different", "prompts", "For", "example", ",", "many", "Stable", "Diffusion", "prompts", "use", "commas", "to", "separate", "keywords", ",", "while", "this", "pattern", "is", "less", "seen", "in", "prompts", "for", "DALL", "-", "E", "2", "(", "Ramesh", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "or", "Midjourney", "(", "Holz", ",", "2022", ")" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "we", "caution", "researchers", "that", "some", "research", "find-", "ings", "from", "DIFFUSION", "DBmight", "not", "be", "general-", "izable", "to", "other", "text", "-", "to", "-", "image", "generative", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "8", "Ethics", "Statement", "In", "this", "section", ",", "we", "discuss", "two", "main", "ethical", "consid-", "erations", "of", "D", "IFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "•Copyright", "By", "using", "the", "Stable", "Diffusion", "Dis-", "cord", "server", ",", "all", "users", "agree", "to", "the", "entirety", "of", "CC0", "1.0", "Universal", "Public", "Domain", "Dedication", "This", "includes", "waiving", "any", "intellectual", "property", "rights", "related", "to", "any", "content", "shared", "on", "the", "server", "(", "Sta-", "bilityAI", ",", "2022b", ")", "All", "prompts", "and", "images", "in", "the", "Discord", "server", "are", "considered", "to", "be", "public", "do-", "main", "and", "can", "be", "used", "by", "anyone", "for", "any", "purpose", "Also", ",", "we", "release", "DIFFUSION", "DBunder", "the", "CC0", "1.0", "license", "(", "§", "2.5", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•Privacy", "While", "it", "is", "possible", "that", "some", "prompts", "may", "contain", "sensitive", "information", ",", "this", "is", "not", "common", "because", "the", "Stable", "Diffusion", "Discord", "has", "strict", "rules", "against", "writing", "personal", "informa-", "tion", "in", "the", "prompts", "and", "has", "moderators", "in", "place", "to", "remove", "violative", "messages", "To", "further", "protect", "user", "privacy", ",", "we", "have", "anonymized", "the", "usernames", "of", "all", "users", "in", "our", "dataset", "(", "§", "2.4", ")", "Users", "also", "have", "the", "option", "to", "remove", "their", "prompts", "and", "images", "from", "our", "dataset", "through", "an", "online", "form", "(", "§", "2.5", ")", "We", "provide", "a", "thorough", "discussion", "on", "the", "limitations", "and", "broader", "impacts", "of", "D", "IFFUSION", "DB", "in", "its", "Data", "Sheet", "(", "Gebru", "et", "al", ",", "2020", ")", "(", "‡", "A", ")", "Acknowledgements", "We", "thank", "Stability", "AI", "for", "releasing", "Stable", "Diffusion", "and", "hosting", "the", "Stable", "Diffusion", "Discord", "server", "We", "especially", "appreciate", "the", "Stable", "Diffusion", "Dis-", "cord", "moderators", "and", "users", "for", "creating", "an", "open", "and", "friendly", "online", "community", "that", "makes", "our", "work", "possible", "We", "also", "extend", "our", "appreciation", "to", "Hug-", "ging", "Face", "for", "hosting", "our", "dataset", "Lastly", ",", "we", "wouldlike", "to", "acknowledge", "the", "anonymous", "reviewers", "for", "their", "valuable", "feedback", "and", "insightful", "comments", "that", "helped", "improve", "our", "paper", "This", "work", "was", "sup-", "ported", "in", "part", "by", "a", "J.P", "Morgan", "PhD", "Fellowship", ",", "NSF", "grants", "IIS-1563816", ",", "DARPA", "GARD", ",", "gifts", "from", "Cisco", ",", "Bosch", ",", "and", "NVIDIA", "Use", ",", "duplication", ",", "or", "disclosure", "is", "subject", "to", "the", "restrictions", "as", "stated", "in", "Agreement", "number", "HR00112030001", "between", "the", "Government", "and", "the", "Performer", "References", "Apache", "2013" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "912–928", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "From", "Key", "Points", "to", "Key", "Point", "Hierarchy", ":", "Structured", "and", "Expressive", "Opinion", "Summarization", "Arie", "Cattan1∗Lilach", "Eden2∗Yoav", "Kantor2Roy", "Bar", "-", "Haim2", "1Computer", "Science", "Department", ",", "Bar", "Ilan", "University", "2IBM", "Research", "arie.cattan", "@", "gmail.com", "{", "lilache", ",", "yoavka", ",", "roybar", "}", "@", "il.ibm.com", "Abstract", "Key", "Point", "Analysis", "(", "KPA", ")", "has", "been", "recently", "pro-", "posed", "for", "deriving", "fine", "-", "grained", "insights", "from", "collections", "of", "textual", "comments" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPA", "extracts", "the", "main", "points", "in", "the", "data", "as", "a", "list", "of", "concise", "sentences", "or", "phrases", ",", "termed", "key", "points", ",", "and", "quantifies", "their", "prevalence" ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "key", "points", "are", "more", "expressive", "than", "word", "clouds", "and", "key", "phrases", ",", "making", "sense", "of", "a", "long", ",", "flat", "list", "of", "key", "points", ",", "which", "often", "express", "related", "ideas", "in", "varying", "levels", "of", "granularity", ",", "may", "still", "be", "chal-", "lenging", "To", "address", "this", "limitation", "of", "KPA", ",", "we", "introduce", "the", "task", "of", "organizing", "a", "given", "set", "of", "key", "points", "into", "a", "hierarchy", ",", "according", "to", "their", "specificity" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "hierarchies", "may", "be", "viewed", "as", "a", "novel", "type", "of", "Textual", "Entailment", "Graph", "We", "develop", "THINK", "P", ",", "a", "high", "quality", "benchmark", "dataset", "of", "key", "point", "hierarchies", "for", "business", "and", "product", "reviews", ",", "obtained", "by", "consolidat-", "ing", "multiple", "annotations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "compare", "different", "methods", "for", "predicting", "pairwise", "relations", "be-", "tween", "key", "points", ",", "and", "for", "inferring", "a", "hierarchy", "from", "these", "pairwise", "predictions", "In", "particular", ",", "for", "the", "task", "of", "computing", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "ex-", "isting", "strong", "baselines", "by", "applying", "directional", "distributional", "similarity", "methods", "to", "a", "novel", "dis-", "tributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "performance", "via", "weak", "supervi-", "sion", "https", ":", "/", "/", "github.com", "/", "IBM", "/", "kpa-hierarchy", "1", "Introduction", "Many", "organizations", "face", "the", "challenge", "of", "extract-", "ing", "insights", "from", "large", "collections", "of", "textual", "com-", "ments", ",", "such", "as", "user", "reviews", ",", "survey", "responses", ",", "and", "feedback", "from", "customers", "or", "employees", "Current", "text", "analytics", "tools", "summarize", "such", "datasets", "via", "word", "clouds", "(", "Heimerl", "et", "al", ",", "2014", ")", "or", "key", "phrases", "(", "Hasan", "and", "Ng", ",", "2014", ";", "Merrouni", "et", "al", ",", "2019", ")", ",", "which", "are", "often", "too", "crude", "to", "capture", "fine", "-", "grained", "insights", "∗Equal", "contribution", "Work", "done", "while", "the", "first", "author", "was", "an", "intern", "at", "IBM", "Research", "Multi", "-", "document", "summarization", "methods", ",", "on", "the", "other", "hand", "(", "Chu", "and", "Liu", ",", "2019", ";", "Bražinskas", "et", "al", ",", "2020a", ",", "b", ";", "Angelidis", "et", "al", ",", "2021", ";", "Louis", "and", "Maynez", ",", "2022", ")", ",", "do", "not", "quantify", "the", "prevalence", "of", "each", "point", "in", "the", "summary", ",", "and", "are", "not", "well", "-", "suited", "for", "repre-", "senting", "conflicting", "views", "(", "Bar", "-", "Haim", "et", "al", ",", "2021", ")", "Key", "Point", "Analysis", "(", "KPA", ")", "is", "a", "recent", "opinion", "summarization", "framework", "that", "aims", "to", "address", "the", "above", "limitations", "(", "Bar", "-", "Haim", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2020b", ")", "KPA", "extracts", "concise", "sentences", "and", "phrases", "termed", "Key", "Points", "(", "KPs", ")", ",", "which", "represent", "the", "most", "salient", "points", "in", "the", "data", ",", "and", "quantifies", "the", "prevalence", "of", "each", "KP", "as", "the", "number", "of", "its", "matching", "input", "sen-", "tences" ]

[ "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "remaining", "shortcoming", "of", "KPA", ",", "how-", "ever", ",", "is", "that", "it", "generates", "a", "flat", "list", ",", "which", "does", "not", "capture", "the", "relations", "between", "the", "key", "points" ]

[ "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "consider", "the", "sample", "set", "of", "key", "points", "in", "Figure", "1", "(", "left", ")", ",", "which", "was", "automatically", "extracted", "from", "reviews", "of", "one", "of", "the", "hotels", "in", "the", "Yelp", "Open", "Dataset1" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "The", "results", "do", "not", "provide", "a", "high", "level", "view", "of", "the", "main", "themes", "expressed", "in", "the", "reviews", "It", "is", "hard", "to", "tell", "which", "key", "points", "convey", "similar", "ideas", ",", "and", "which", "key", "points", "support", "and", "elaborate", "on", "a", "more", "general", "key", "point", "As", "the", "number", "of", "key", "points", "in", "the", "summary", "increases", ",", "such", "output", "becomes", "even", "harder", "to", "consume", "In", "this", "work", "we", "introduce", "Key", "Point", "Hierarchies", "(", "KPH", ")", "as", "a", "novel", "structured", "representation", "of", "opin-", "ion", "summaries" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Organizing", "the", "key", "points", "in", "a", "hier-", "archy", ",", "as", "shown", "in", "Figure", "1", "(", "right", ")", ",", "allows", "the", "user", "to", "quickly", "grasp", "the", "high", "-", "level", "themes", "in", "the", "sum-", "mary", "(", "the", "hotel", "is", "beautiful", ",", "the", "shows", "are", "great", ",", "comfortable", "rooms", ",", "great", "service", ")", ",", "and", "drill", "down", "on", "each", "theme", "to", "get", "more", "fine", "-", "grained", "insights", ",", "e.g.", ",", "from", "“", "The", "personnel", "were", "great", "”", "to“check", "-", "in", "was", "quick", "and", "easy", "”", "Furthermore", ",", "key", "points", "that", "(", "nearly", ")", "convey", "the", "same", "meaning", "(", "e.g.", ",", "“", "House-", "keeping", "was", "fantastic", "”", ",", "and", "“", "The", "cleaning", "crew", "is", "great", "”", ")", "are", "clustered", "together", "and", "represented", "as", "a", "1https", ":", "/", "/", "www.yelp.com", "/", "dataset912", "Figure", "1", ":", "From", "a", "flat", "list", "of", "key", "points", "to", "a", "key", "point", "hierarchy", "(", "KPH", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "Nodes", "group", "together", "key", "points", "that", "roughly", "express", "the", "same", "idea", "and", "directed", "edges", "connect", "specific", "key", "points", "to", "more", "general", "ones", "The", "number", "of", "matches", "for", "each", "key", "point", "is", "omitted", "single", "node", "in", "the", "hierarchy", "This", "structured", "output", "makes", "KPA", "results", "more", "consumable", ",", "informative", ",", "and", "easier", "to", "navigate" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPH", "can", "be", "viewed", "as", "a", "new", "type", "of", "textual", "entailment", "graph", "(", "§", "2", ")" ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "develop", "THINK", "P", "(", "TreeHIerarchy", "of", "Naturally", "-", "occuring", "KeyPoints", ")", ",", "the", "first", "bench-", "mark", "dataset", "for", "Key", "Point", "Hierarchies", ",", "created", "from", "KPA", "summaries", "of", "user", "reviews", "in", "multiple", "domains", "(", "§", "4", ")" ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "the", "complexity", "of", "KPH", "an-", "notation", ",", "THINK", "Pwas", "created", "by", "consolidating", "multiple", "annotations", ",", "to", "ensure", "its", "high", "quality" ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "explore", "different", "methods", "for", "automatic", "KPH", "construction", "from", "a", "given", "set", "of", "key", "points", "(", "§", "5", ")" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Following", "previous", "work", "on", "entailment", "graphs", "(", "§", "2", ")", ",", "this", "is", "formulated", "as", "a", "two", "-", "step", "approach", "We", "first", "compute", "local", "scores", "predicting", "the", "directional", "re-", "lation", "between", "each", "pair", "of", "key", "points", "We", "then", "construct", "a", "hierarchy", "guided", "by", "these", "local", "pairwise", "predictions", "We", "present", "novel", "methods", "and", "algorithmic", "im-", "provements", "for", "each", "of", "the", "above", "subtasks", "In", "par-", "ticular", ",", "for", "the", "task", "of", "predicting", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "existing", "strong", "baselines", "by", "applying", "directional", "distribu-", "tional", "similarity", "methods", "to", "a", "novel", "distributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "per-", "formance", "via", "weak", "supervision", "We", "release", "the", "THINK", "Pdataset", "to", "encourage", "further", "research", "on", "this", "challenging", "task" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Overall", ",", "our", "work", "contributes", "to", "several", "lines", "of", "research", ",", "including", "key", "point", "analysis", ",", "opinion", "summarization", ",", "entailment", "graphs", ",", "and", "distribu-", "tional", "methods", "for", "natural", "language", "inference" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Fur-", "thermore", ",", "as", "we", "demonstrate", "in", "§", "4.3", ",", "our", "novel", "THINK", "Pdataset", "captures", "diverse", "types", "of", "infer-", "ences", "between", "pairs", "of", "naturally", "-", "occurring", "texts", ",", "making", "it", "an", "interesting", "resource", "for", "NLI", "research", "in", "general.2", "Background", "Key", "Point", "Analysis" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName" ]

[ "Bar", "-", "Haim", "et", "al", "(", "2020a", ",", "b", ")", "proposed", "Key", "Point", "Analysis", "(", "KPA", ")", "as", "a", "summa-", "rization", "framework", "that", "provides", "both", "textual", "and", "quantitative", "summary", "of", "the", "main", "points", "in", "a", "col-", "lection", "of", "comments" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KPA", "extracts", "a", "set", "of", "con-", "cise", ",", "high", "-", "quality", "sentences", "or", "phrases", ",", "termed", "Key", "Points", ",", "and", "maps", "each", "of", "the", "input", "sentences", "to", "its", "corresponding", "key", "points" ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "prevalence", "of", "each", "key", "point", "is", "quantified", "as", "the", "number", "of", "its", "matching", "sentences", "KPA", "summaries", "are", "more", "expressive", "than", "the", "commonly", "-", "used", "word", "clouds", "and", "key", "phrases", ",", "while", "adding", "an", "important", "quan-", "titative", "dimension", "that", "is", "missing", "from", "plain", "text", "summaries" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "KPA", "algorithm", "aims", "to", "extract", "a", "set", "of", "key", "points", "that", "provide", "high", "coverage", "of", "the", "data", ",", "while", "removing", "redundancies" ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "employs", "two", "super-", "vised", "models", ":", "one", "for", "assessing", "the", "quality", "of", "key", "point", "candidates", ",", "and", "another", "one", "for", "computing", "a", "match", "score", "between", "a", "sentence", "and", "a", "candidate", "key", "point", "Bar", "-", "Haim", "et", "al", "(", "2021", ")", "adapted", "KPA", "to", "business", "reviews", ",", "by", "introducing", "several", "exten-", "sions", "to", "the", "original", "algorithm" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "particular", ",", "they", "integrated", "sentiment", "analysis", "into", "KPA", ",", "creating", "separate", "summaries", "for", "positive", "and", "negative", "sen-", "tences" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "also", "developed", "a", "specialized", "key", "point", "quality", "model", "for", "the", "business", "reviews", "domain", "Entailment", "Graphs" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName" ]

[ "Most", "of", "the", "prior", "work", "on", "entailment", "graphs", "has", "focused", "on", "learning", "entail-", "ment", "relations", "between", "predicates", ",", "while", "satisfying", "some", "global", "constraints", "such", "as", "transitivity", "(", "Berant", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2010", ")", ",", "soft", "transitivity", "(", "Chen", "et", "al", ",", "2022", ")", ",", "and", "other", "types", "of", "soft", "constraints", "(", "Hosseini", "et", "al", ",", "2018", ")", "Levy", "et", "al", "(", "2014", ")", "extended", "the", "notion", "of", "entailment", "graphs", "to", "instantiated", "predicates", "Most", "similar", "to", "our", "Key", "Point", "Hierarchies", "are", "en-913", "tailment", "graphs", "over", "text", "fragments", ",", "introduced", "by", "Kotlerman", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Their", "motivating", "scenario", "was", "summarizing", "customer", "feedback", ",", "for", "which", "they", "developed", "a", "benchmark", "dataset", "However", ",", "the", "text", "fragments", "in", "this", "dataset", "were", "extracted", "man-", "ually", "The", "approach", "proposed", "in", "the", "current", "work", ",", "which", "first", "finds", "the", "most", "salient", "points", "in", "the", "data", "using", "KPA", ",", "and", "then", "constructs", "a", "hierarchy", "from", "the", "extracted", "key", "points", ",", "allows", "fully", "-", "automatic", "generation", "of", "structured", "summaries", "for", "large", "collec-", "tions", "of", "opinions", ",", "views", "or", "arguments" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Construct-", "ing", "hierarchies", "over", "automatically", "-", "extracted", "key", "points", ",", "which", "are", "often", "noisy", "and", "imperfect", ",", "rep-", "resents", "a", "more", "realistic", "scenario", ",", "and", "makes", "both", "manual", "annotation", "of", "KPHs", "and", "their", "automatic", "construction", "more", "challenging" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O" ]

[ "3", "Key", "Point", "Hierarchies", "Figure", "1", "illustrates", "the", "transformation", "of", "a", "flat", "key", "point", "list", "into", "a", "Key", "Point", "Hierarchy", "(", "KPH", ")" ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "Formally", ",", "given", "a", "list", "of", "key", "points", "K=", "{", "k1", ",", "k2", ",", "...", ",", "k", "n", "}", ",", "we", "define", "a", "KPH", "H=", "(", "V", ",", "E", ")", "as", "a", "directed", "forest", ",", "that", "is", ",", "His", "a", "Directed", "Acyclic", "Graph", "(", "DAG", ")", "where", "each", "node", "has", "no", "more", "than", "one", "parent" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "vertices", "Vare", "clusters", "of", "key", "points", "{", "C1", ",", "...", ",", "C", "m", "}", "that", "convey", "similar", "ideas", ",", "and", "the", "directed", "edges", "ϵij∈", "Erepresent", "hierarchical", "rela-", "tions", "between", "clusters", "CiandCj", "Similar", "to", "Kotler-", "man", "et", "al", "(", "2015", ")", ",", "a", "directed", "edge", "Ci−", "→Cjindi-", "cates", "that", "the", "key", "points", "in", "Ciprovide", "elaboration", "and", "support", "for", "the", "key", "points", "in", "Cj", "By", "transitivity", ",", "this", "relation", "extends", "to", "any", "two", "clusters", "CiandCk", "such", "that", "there", "is", "a", "directed", "path", "in", "Hfrom", "Cito", "Ck", ",", "which", "we", "denote", "as", "Ci", ";", "Ck", "Accordingly", ",", "we", "define", "R", "(", "H", ")", "as", "the", "set", "of", "directional", "relations", "between", "pairs", "of", "key", "points", "(", "x", ",", "y", ")", "that", "can", "be", "de-", "rived", "from", "Has", ":", "R", "(", "H", ")", "=", "{", "(", "x", ",", "y", ")", ")", "|Cx", "=", "Cy∨Cx", ";", "Cy", "}", "(", "1", ")", "where", "Cx", ",", "Cy∈", "V", "are", "the", "clusters", "of", "xandyre-", "spectively", "Considering", "the", "example", "in", "Figure", "1", ",", "R", "(", "H", ")", "includes", "the", "relations", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "personnel", "were", "great", "”", ",", "“", "House-", "keeping", "was", "fantastic", "”", "−", "→“Friendly", "service", "all", "around", "”", ",", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "cleaning", "crew", "is", "great", "”", ",", "and", "so", "on", "We", "chose", "a", "hierarchical", "representation", "over", "a", "more", "general", "graph", "structure", "since", "it", "results", "in", "a", "simpler", "output", "that", "is", "easier", "to", "consume", "In", "addi-", "tion", ",", "this", "greatly", "simplified", "the", "annotation", "process", "We", "found", "that", "hierarchical", "representation", "workswell", "in", "practice", ",", "as", "the", "vast", "majority", "of", "the", "nodes", "in", "our", "dataset", "did", "not", "have", "more", "than", "one", "potential", "parent", "This", "is", "in", "line", "with", "previous", "work", ",", "which", "suggested", "that", "entailment", "graphs", "tend", "to", "have", "a", "tree", "-", "like", "structure", "(", "Berant", "et", "al", ",", "2012", ")", "4", "T", "HINK", "P", ":", "A", "Dataset", "for", "Key", "Point", "Hierarchies", "In", "this", "section", "we", "present", "THINK", "P", ",", "a", "benchmark", "dataset", "of", "key", "point", "hierarchies" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "build", "THINK", "P", ",", "we", "first", "apply", "Key", "Point", "Analysis", "to", "reviews", "of", "busi-", "nesses", "and", "products", "from", "multiple", "domains", "(", "§", "4.1", ")" ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "KPH", "is", "then", "constructed", "manually", "from", "the", "set", "of", "key", "points", "extracted", "for", "each", "business", "or", "prod-", "uct", "(", "§", "4.2", ")" ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "provide", "statistics", "on", "the", "resulting", "dataset", ",", "as", "well", "as", "qualitative", "analysis", "of", "the", "types", "of", "inferences", "it", "includes", "(", "§", "4.3", ")", "4.1", "Key", "Point", "Set", "Generation", "The", "first", "step", "in", "creating", "the", "dataset", "was", "to", "run", "KPA", "on", "the", "reviews", "of", "selected", "businesses", "and", "products" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "implementation", "follows", "(", "Bar", "-", "Haim", "et", "al", ",", "2021", ")", ",", "who", "suggested", "several", "extensions", "of", "KPA", "for", "analyzing", "business", "reviews.2For", "each", "business", ",", "two", "separate", "summaries", "of", "positive", "and", "negative", "key", "points", "are", "created" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]