lang
stringclasses
10 values
audio
audioduration (s)
0.1
267
image
imagewidth (px)
34
4.19k
text
stringlengths
49
181
cls
stringclasses
1k values
cls_id
int64
0
999
target_text
stringlengths
1
68
ja
ఎయిర్డేల్_欧洲水鸡_ソンブレロ_артишок_pitcher_해변_แท็กซี่_टूकन_مالك الحزين الأزرق الصغير_πώμα της φιάλης
sombrero
808
ソンブレロ
th
మాల్టీస్ కుక్క_πυροσβεστικό όχημα_से चलती है_سلة قمامة_ซามอยด์_black and gold garden spider_アメリカサギ_아티초크_海葵_плащ
Samoyed
258
ซามอยด์
hi
กระต่ายไม้_빙빙 돌리다_刚毛猎狐梗_Λάσα_పిన్వీల్_brassiere_داندي دينمونت_पेंच_Пластир_アトリ
bolete
997
पेंच
ar
στάδιο_चालक आदमी_ringlet_三角龙_جسر_протипожежний екран_스키_靴屋_పసుపు స్త్రీ స్లిప్పర్_โลชั่น
viaduct
888
جسر
th
projectile_είδος ερωδίου_సోంబ్రెరో_باكاي_उभयचर_삼각대_тарантул_収穫機_摇篮_หมวกคาวบอย
cowboy hat
515
หมวกคาวบอย
ar
دودة مسطحة_靴下_จักรเย็บผ้า_महान ग्रे उल्लू_μηχανοκίνητο σκούτερ_పదాల ఆట_horse cart_瓢虫_транспортний засіб для відпочинку_수영복
flatworm
110
دودة مسطحة
th
طابعة_เม็กซิกันไม่มีขน_cricket_వేడి కుండ_서식스 스파니엘_μέλισσα_ボクサー_量杯_галочка_ब्रिटनी स्पैनियल
Mexican hairless
268
เม็กซิกันไม่มีขน
ko
रॉक सौंदर्य_అప్పెన్జెల్లర్_πακέτο_警车_ทองเหลือง_綿棒_خيمة جبلية_짖는 원숭이_hand blower_наколінник
howler monkey
379
짖는 원숭이
ar
งูรัด_犀鸟_బీరు సీసా_босоніжки_ليموزين_Ιταλικό λαγωνικό_रेडियेटर_cornet_양말_乳首
limousine
627
ليموزين
uk
ハーフトラック_ఆఫ్రికన్ ఊసరవెల్లి_街道路标_चित्तीदार सैलामैंडर_кучерявий ретривер_σωρός από πέτρες_golfcart_แมงมุมสวนสีดำและสีทอง_الهامستر_세 발가락 나무늘보
curly-coated retriever
206
кучерявий ретривер
hi
كرة الغولف_meat loaf_乗用車_లియోన్‌బర్గ్_έχιδνα_高架桥_족제비_теплиця_เครื่องพิมพ์_ब्लैक स्वान
black swan
100
ब्लैक स्वान
th
valley_盘子架_великий ріг_सेलुलर टेलीफोन_جاكوار_쟁기_พระมหากษัตริย์_βιβλιοθήκη_పిల్లల సాలీడు_ライフル
monarch
323
พระมหากษัตริย์
ja
πέννα_водяна змія_雅卡马尔_مزلقة_เบสบอล_정원 거미_Lakeland terrier_समुद्री अर्चिन_アップライトピアノ_పొడవు
upright
881
アップライトピアノ
hi
가스 펌프_睡袋_ηφαίστειο_الدانماركي العظيم_จานชาม_కుందేలు_книжкова шафа_イタチ_mouse_मधमक्खियों के पालने का स्थान
apiary
410
मधमक्खियों के पालने का स्थान
te
कारागार_బూడిద తిమింగలం_snorkel_德国短毛指示犬_ดัลเมเชี่ยน_골프 카트_うなぎ_вкрали_خنزير_μπλουτίκ κολωνόσκυλο
grey whale
147
బూడిద తిమింగలం
el
맥주잔_バブル_图书馆_เตาอบดัตช์_космічний шатл_limpkin_σκαθάρι των φύλλων_కోడి_साल की उम्र_ولاعة
leaf beetle
304
σκαθάρι των φύλλων
te
لعبة جحر_సెల్లో_モルタルボード_риба анемона_διόπτρες_ट्रैफिक - लाइट_tobacco shop_녹색 도마뱀_ร้านรองเท้า_消防船
cello
486
సెల్లో
ar
feather boa_ด้วงเสือ_فايمارانر_గొడుగు_Шуба_马车_서랍장_チョウザメ_ιαγουάρος_यहां तक की
Weimaraner
178
فايمارانر
ja
plane_ケルピー_هاتف عمومي_인드리_डिस्क ब्रेक_వితరణ యంత్రం_χιμπατζής_布列塔尼猎犬_ช้อนไม้_релігія
kelpie
227
ケルピー
en
flat-coated retriever_ランプシェード_ชิมแปนซี_సెల్లో_프라이팬_सीटी_ψησταριά_菜粉蝶_صانع إسبرسو_Перська кішка
flat-coated retriever
205
flat-coated retriever
th
ساعة رقمية_church_మారకా_весло_สุนัขมอลทีส_绿蜥蜴_पॉप बोतल_사모예드_ジャガー_νωθρή αρκούδα
Maltese dog
153
สุนัขมอลทีส
ja
ตุ่นปากเป็ด_επιγονατίδα_꽃병_الجدة سميث_咖啡壶_ఛాతి_जर्मन शेपर्ड_ringneck snake_церква_シャベル
shovel
792
シャベル
hi
热狗_ウィスキージョッキ_μπαλτάς_поп пляшка_गार्टर सांप_weevil_నిమ్మకాయ_طائر الرمل ذو الظهر الأحمر_ไอริชวูล์ฟฮาวด์_호랑이 고양이
garter snake
57
गार्टर सांप
th
كلمات متقاطعة_ఎకిడ్నా_Ірландський водяний спанієль_σφυρίζω_개 썰매_イタチザメ_滑雪面罩_กระต่ายไม้_वैफ़ल आयरन_toy terrier
wood rabbit
330
กระต่ายไม้
ar
γαϊτανάκι_アメリカワニ_Бедлінгтон тер'єр_미니어처 푸들_బాసెట్_लाल छाती वाला मेर्गेन्सर_triceratops_เบลนไฮม์ สแปเนียล_ثور_香水
ox
345
ثور
te
goldfish_머리 양배추_ศาสนา_सिनेमा_καρτούν_海盗_フンコロガシ_డంగెనెస్ పీత_مقصلة_фонтан
Dungeness crab
118
డంగెనెస్ పీత
te
جسر معلق_แป้งทาหน้า_μεγάλη γκρίζα κουκουβάγια_マムシヘビ_책장_मारिम्बा_beaver_పర్వత బైక్_付费电话_Єгипетська кішка
mountain bike
671
పర్వత బైక్
th
ซามอยด์_حميض_बैरल_クサカゲロウ_πλανητάριο_చదునైన పురుగు_太阳镜_Скотч тер'єр_챔버형 노틸러스_tick
Samoyed
258
ซามอยด์
ja
मेन्यू_ไอริชเทอร์เรียร์_రోటిసెరీ_インドコブラ_平衡木_tile roof_κοκκινόκρανο_해시계_книга коміксів_يختار
Indian cobra
63
インドコブラ
uk
γραφείο_танк_كلب الجبل السويسري الكبير_ร้านขายของชำ_ジャージー_तीतर_షి త్జు_tiger_菜粉蝶_수평 한 막대
tank
847
танк
hi
داندي دينمونت_माल्टीज़ कुत्ता_φυσαρμόνικα_షెట్లాండ్ గొర్రె కుక్క_コンバーチブル_外裙_споживає_불고기집_เสื้อสเวตเตอร์ถัก_Doberman
Maltese dog
153
माल्टीज़ कुत्ता
zh-CN
爪子_φτυάρι_คอลลี่_microwave_ハンカチ_살루키_मठ_Dungeness краб_شعر مستعار_పూల్ టేబుల్
patas
371
爪子
el
ジャーマンシェパード_झील के किनारे_อุดตัน_мірна склянка_移动房屋_티베트 테리어_φανέλα_వ్రేళ్ళ తొడుగు_shopping cart_نهب
jersey
610
φανέλα
ar
เท็ดดี้_金毛猎犬_金庫_मनोरंजनात्मक वाहन_κιτ αλεπού_అప్పెన్జెల్లర్_довгорогий жук_باب جرار_modem_갓
sliding door
799
باب جرار
ja
kimono_पैमाना_カタツムリ_غطاء فتحة_法国号_టేబుల్ లాంప్_นกกระสาดำ_체인 메일_чашка Петрі_γιγάντιο σνάουζερ
snail
113
カタツムリ
ar
مغسلة_पतवार चलाने वाला पहिया_జిన్రికిషా_τσέλο_Божевільний монстр_รถพยาบาล_라켓_面包店_guinea pig_アガマ
washbasin
896
مغسلة
hi
马达加斯加猫_సియామాంగ్_ψησταριά_bell pepper_بوسطن الثور_อ้าปากค้าง_клавіатура друкарської машинки_便座_자외선 차단제_क्रेन मशीन
crane machine
517
क्रेन मशीन
ar
μελισσοκομείο_పడవ_حقيبة البريد_주행 거리계_minivan_钟声_งูพิษ_торговий автомат_そろばん_चीता
mailbag
636
حقيبة البريد
uk
επιγονατίδα_水蛇_พอยน์เตอร์ผมสั้นเยอรมัน_лук_टेप प्लेयर_海葵鱼_గ్రాండ్ పియానో_السلاحف الجلدية الظهر_오른쪽_wolf spider
bow
456
лук
te
కాటమరాన్_นกทูแคน_गुँथा हुआ आटा_RV車_гучномовець_طائر السمان_직소 퍼즐_kimono_缝纫机_βαθύφωνος βάτραχος
catamaran
484
కాటమరాన్
uk
شعلة_табло_पश्चिम हाइलैंड सफेद टेरियर_湖畔梗_μαξιλάρι_ワームフェンス_Saint Bernard_악취가 나는_ఐబెక్స్_เอลก์ฮาวด์นอร์เวย์
scoreboard
781
табло
ar
సౌర వంటకం_桨_steam locomotive_αθλητική μπλούζα_розсувні двері_अनुरूप घड़ी_들개_ตู้เสื้อผ้า_تفاح الكسترد_孔雀
custard apple
956
تفاح الكسترد
ja
తీసుకోవడం_回転式改札口_손수레_पेलेयोजोईक_山雀_amphibian_الباسون_เรือดำน้ำ_Μεγάλα Πυρηναία_Аравійський верблюд
turnstile
877
回転式改札口
th
狗拉雪橇_स्क्रीन_보스턴 황소_دراجة ثلاثية العجلات_ゴードンセッター_bakery_гучномовець_ραπτομηχανή_มอร์ตาร์บอร์ด_వెల్ష్ స్ప్రింగర్ స్పానియల్
mortarboard
667
มอร์ตาร์บอร์ด
ja
猫鼬_альберт_रोकना_يُحوّل_ร้านหนังสือ_αρκούδα του πάγου_ఆకు బీటిల్_スタンダードプードル_티베트 테리어_wood rabbit
standard poodle
267
スタンダードプードル
el
เขื่อนกันคลื่น_పవర్ డ్రిల్_インドコブラ_西高地白梗_मुरली_회전목마_φίδι hognose_склепіння_مسكن الهاوية_crash helmet
hognose snake
54
φίδι hognose
hi
Бордер коллі_希佩尔克_กุญแจรหัส_벌집_సీలీహామ్ టెర్రియర్_λιβελούλα_bassoon_صانع إسبرسو_देश_ブルーティック
yurt
915
देश
zh-CN
κόκκινη αλεπού_背包_भेड़िया मकड़ी_ย้ายจาก_버클_グレーター・スイス・マウンテン・ドッグ_الكولي_картопляне пюре_వ్రేళ్ళ తొడుగు_spindle
backpack
414
背包
ja
షి త్జు_หม้อ_クロッケーボール_عاكس الضوء_black-and-tan coonhound_γκρίζα αλεπού_벌불_ओबाउ_жнивар_投币口
croquet ball
522
クロッケーボール
ja
माइक्रोफ़ोन_ఎస్ప్రెస్సో_筆箱_green snake_σαύρα φουρνωτή_Керрі блю тер'єр_比基尼_เสื้อเกราะ_크로스워드 퍼즐_بيمبروك
pencil box
709
筆箱
hi
παγκάκι πάρκου_药瓶_มาลินอยส์_Тибетський мастиф_cup_संयोजन ताला_지네_ヘルメット_التنش سمك نهري_పీర్
combination lock
507
संयोजन ताला
te
เอนเทิลบูเชอร์_बिज्जू_μπουλόνι_شاشة_рись_斑马_생쥐_electric guitar_మోర్టార్_計量カップ
mortar
666
మోర్టార్
ko
バルーン_Ταύρος της Βοστώνης_衣柜_على ضفاف البحيرة_cliff dwelling_краватка-метелик_ไก่ของป่า_페르시아 고양이_भाप गतिविशिष्ट_పైజామా
Persian cat
283
페르시아 고양이
hi
อวัยวะ_كيس ملاكمة_औबेक्स_Αγγλικό σέτερ_sea anemone_豪华轿车_віник_馬車_నార్విచ్ టెర్రియర్_회전목마
ibex
350
औबेक्स
te
سلطعون الملك_Dandie Dinmont_газовий насос_गैस मास्क_サンゴ礁_పందికొక్కు_아펜핀셔_δοχείο υγρού σαπουνιού_โกรเนนเดล_猫鼬
porcupine
334
పందికొక్కు
te
蚊帐_カヌー_Περσική γάτα_ตั๊กแตนตำข้าว_bow_مسجد_모피 코트_जर्सी_గోల్డ్ ఫించ్_м'яч для крокету
goldfinch
11
గోల్డ్ ఫించ్
th
సింహం చేప_ลูกเทนนิส_ボールペン_अंग्रेजी सेटर_σκουπιδοτενεκές_높은 산_بدلة_павутина_dragonfly_鹊
tennis ball
852
ลูกเทนนิส
zh-CN
пристань_黄色女士拖鞋_シマウマ_సింధూరం_سارية العلم_Σιαμέζικη γάτα_슬롯_rule_ครึ่งทาง_भालू का चमड़ा
yellow lady's slipper
986
黄色女士拖鞋
el
बकेये_ไม้ขีดไฟ_μπάλα τένις_高架桥_크로스워드 퍼즐_كلب اوترهاوند_slide rule_తక్కువ పాండా_マカク_Сіамська кішка
tennis ball
852
μπάλα τένις
ar
दूरबीन_バッタ_沃克猎犬_الكفوف_경주자_Африканський сірий_φτυάρι_standard schnauzer_มาตรวัดระยะทาง_ప్రోబోస్సిస్ కోతి
patas
371
الكفوف
el
套装_засмічувати_కెల్పీ_อิตาเลียนเกรย์ฮาวด์_κενό_シャワーキャップ_텐치_كلب مالطي_hammerhead_पानी की बोतल
vacuum
882
κενό
hi
극장 커튼_แป้นพิมพ์พิมพ์ดีด_सूप का कटोरा_జైలు_برميل_жорсткий диск_鞋店_freight car_ひしゃく_παγωτό
soup bowl
809
सूप का कटोरा
el
washbasin_منزل متنقل_సుత్తి_バックパック_चपटा कृमि_той пудель_금화_επίγειος κάνθαρος_瓷器柜_แตงกวา
ground beetle
302
επίγειος κάνθαρος
el
鶴鳥_краснопірка_frying pan_القرش الابيض الكبير_护膝_คุก_Ντόμπερμαν_진훙 잉꼬_अश्वकार_గొలుసు చూసింది
Doberman
236
Ντόμπερμαν
en
比萨_black stork_クーカル_краснопірка_గిబ్బన్_ริงเล็ต_ज़र्द मछली_βιβλιοθήκη_الأكورديون_그거였어?
black stork
128
black stork
th
slug_कार का पहिया_లింప్కిన్_правильно_グレートデーン_蝎_กระต่าย_ظل النافذة_심지어_πληκτρολόγιο υπολογιστή
hare
331
กระต่าย
ko
జెర్సీ_crash helmet_تتناغم_カリフラワー_ลูกกอล์ฟ_ινδικό χοιρίδιο_домашній кінотеатр_사자상어_英国古代牧羊犬_पेट्री डिश
lionfish
396
사자상어
en
ลิงงวง_πινακίδα_橡子_トロンボーン_jeep_واضعة الانجليزية_жакамар_కుడి_शॉवर कैप_사자상어
jeep
609
jeep
ko
చక్రవర్తి_бакай_πώμα της φιάλης_버클_ptarmigan_चित्तीदार सैलामैंडर_تنين كومودو_卷心菜_ท้องฟ้าจำลอง_鉛筆削り
buckle
464
버클
hi
ノルウェーのエルクハウンド_बाल्टी_ساعة عقارب_球拍_날개_Африканський слон_పూల్ టేబుల్_είδος ερωδίου_ร้านอาหาร_red fox
bucket
463
बाल्टी
ko
ปลาการ์ตูน_रोगी वाहन_κουλούρι_పుస్తకాల దుకాణం_Ірландський сетер_spindle_난파선_جحر سكوتش_バイオリン_蜂房
wreck
913
난파선
el
ปากกระบอกปืน_крилатки_head cabbage_आग स्क्रीन_앞치마_美国斯塔福郡梗_スタッフォードシャー・ブルテリア_χαλάκι πόρτας_పైజామా_العربة
doormat
539
χαλάκι πόρτας
uk
蒸汽机车_ఎలెక్ట్రిక్ గిటార్_Бленхейм спаніель_던저니스 크랩_التنورة المطوقة_แมงมุมสวนสีดำและสีทอง_カーリーコートレトリバー_coffeepot_σκύλος groenendael_लाल भेड़िया
Blenheim spaniel
156
Бленхейм спаніель
ja
แกนหมุน_벌_కారు చక్రం_bathing cap_сталевий барабан_σπαγγέτι κολοκυθάκι_मोटर स्कूटर_乗用車_婴儿床_كلب الجبل السويسري الكبير
passenger car
705
乗用車
en
किताबों का दुकान_Німецький дог_σώμα καλοριφέρ_acorn_阿拉斯加雪橇犬_นักดำน้ำ_ベルコート_جحر ستافوردشاير الأمريكي_పగడపు దిబ్బ_동부 영원
acorn
988
acorn
ko
kuvasz_墨西哥卷饼_CD 플레이어_خمر أحمر_рогата гадюка_लोहे का दंड_కార్డిగాన్_πλοίαρο_鞘_เครื่องล้างจาน
CD player
485
CD 플레이어
ko
윈저 넥타이_レターオープナー_комбайн_submarine_เม่น_三趾树懒_محراث_సాల్ట్‌షేకర్_αλπ_टोअस्टर
Windsor tie
906
윈저 넥타이
ko
వేడి కుండ_είδος μικρού σκύλου_ثعبان الكرمة_цвітна капуста_木製スプーン_स्की_杜宾犬_보아 깃털_ขวาน_barn spider
feather boa
552
보아 깃털
ko
नहाने की टोपी_関税_水鬼_รั้วล้อมรั้ว_سانت برنارد_Band Aid_그거였어?_నల్ల కొంగ_носорог_Αμερικανική μαύρη αρκούδα
bolo tie
451
그거였어?
th
आलपीन_barn_เดียร์ฮาวด์สก็อตแลนด์_ビール瓶_كيري بلو ترير_양봉장_гойдалка_గొలుసు_γατόπαρδος_羚羊
Scottish deerhound
177
เดียร์ฮาวด์สก็อตแลนด์
hi
シジュウカラ_pomegranate_ఎయిర్డేల్_편지 오프너_तेंदुआ_κηρήθρα_รุ่น ที_الضفدع الذيل_棒球运动员_велика сіра сова
leopard
288
तेंदुआ
ja
iPod_日本猎犬_خنزير_జారే తలుపు_світшот_จระเข้แอฟริกัน_παραμάνα_राजा साँप_깃_海パン
swimming trunks
842
海パン
en
ఆకు తొట్టి_カクテルシェーカー_किला_plate_ชเนาเซอร์ยักษ์_教会_αίγαγρος_الذئب الأبيض_성게_жук-носоріг
plate
923
plate
zh-CN
barracouta_แฮมเมอร์เฮด_μπουκάλι μπύρας_किताबों का दुकान_波士顿公牛_أرنب الخشب_радіотелескоп_コミックブック_బైసన్_말라뮤트
Boston bull
195
波士顿公牛
zh-CN
큰 회색 올빼미_プレートラック_στρατιωτική στολή_ความงามของหิน_пекарня_చిటాన్_القرصان_trimaran_से चलती है_伞
umbrella
879
el
мулова черепаха_ฆ้อง_είδος πιθήκου_बच्चा मकड़ी_갓_కుక్కల బండి_袋熊_partridge_テレビ_ساعة التوقيف
capuchin
378
είδος πιθήκου
uk
郵袋_τσουλήθρα μαλλιών_पुलिस वैन_นกอินทรีหัวล้าน_స్కీ_盒式磁带_앞치마_المسرح المنزلي_academic gown_найдорожчий
hartebeest
351
найдорожчий
ko
चूची_アフリカの狩猟犬_乘用车_댄디 딘몬트_తొట్టి_світлофор_ταχυδρομική τσάντα_طائر الترمجان_mailbox_ฝัก
Dandie Dinmont
194
댄디 딘몬트
uk
消費する_пряжка_Merganser ذو الصدر الأحمر_工作室沙发_water bottle_โอโบ_비닐 봉투_జాక్-ఓ-లాంతరు_επίπεδο_गाहनेवाला
buckle
464
пряжка
hi
กบเหลาดินสอ_黒と金の庭のクモ_φλάουτο_सम्राट_电子手表_నల్ల పాదాల ఫెర్రేట్_Irish setter_과자_صاروخ_чаша для змішування
monarch
323
सम्राट
uk
Леонберг_αστυνομικό βαν_यात्री गाड़ी_الساطور_세 발가락 나무늘보_greenhouse_三体船_హోమ్ థియేటర్_กีต้าร์ไฟฟ้า_チェロ
Leonberg
255
Леонберг
uk
药瓶_ガチョウ_सौर डिश_샤워 커튼_піщаний кос_บอร์โซอิ_άμαξα_منطاد_మురిసిపోవడం_acorn
sandbar
977
піщаний кос
zh-CN
乒乓球_เทอร์เรียออสเตรเลีย_엔틀부처_μηχάνημα αυτόματης πώλησης_كلب سلوقي_झुकना_ధాన్యపు కొట్టు_банджо_電波望遠鏡_Leonberg
ping-pong ball
722
乒乓球
hi
شنوزر العملاق_desktop computer_στρατιωτική στολή_रज़ाई_太阳镜_скарбничка_ミニバン_రాతి గోడ_ตั๊กแตนตำข้าว_주걱
quilt
750
रज़ाई
zh-CN
बिच्छू_ライナー_바구미_τεριέ παιχνιδιών_киснева маска_غطاء العدسة_macaque_岩蟒_కౌకల్_ไลเคนิด
rock python
62
岩蟒
zh-CN
water ouzel_袋鼠_목걸이_अलगोजा_封筒_اللقلق الأبيض_Різдвяна панчоха_κοραλλιογενή ύφαλο_బార్బెల్_มาลินอยส์
wallaby
104
袋鼠
zh-CN
minibus_सौर डिश_เครื่องหมุนเหวี่ยง_горщик_οξύρρυγχος_赛车_キノコ_నీలిమందు బంటింగ్_طائر القرقف_반죽
racer
751
赛车
ja
γούνινο παλτό_كمان_papillon_油菜籽_วอลเลย์บอล_छोटा सुन्दर बारहसिंघ_బీగల్_생쥐_Ангора_胸当て
breastplate
461
胸当て
zh-CN
яєчний ліког_猎獭犬_ఇటాలియన్ గ్రేహౌండ్_فراشة الملفوف_टैनिस - बाँल_公衆電話_English foxhound_เสาโอเบลิสค์_에스키모 개_πλατύπους
otterhound
175
猎獭犬
ar
公衆電話_헤어 슬라이드_μαύρη πέρδικα_सींग वाला वाइपर_సూర్యరశ్మి_скарбничка_军装_บิ๊กฮอร์น_jacamar_خزانة الملابس
wardrobe
894
خزانة الملابس

Dataset Card for Symile-M3

Symile-M3 is a multilingual dataset of (audio, image, text) samples. The dataset is specifically designed to test a model's ability to capture higher-order information between three distinct high-dimensional data types: by incorporating multiple languages, we construct a task where text and audio are both needed to predict the image, and where, importantly, neither text nor audio alone would suffice.

Overview

image/jpeg

Let w represent the number of languages in the dataset (w=2, w=5, and w=10 correspond to Symile-M3-2, Symile-M3-5, and Symile-M3-10, respectively). An (audio, image, text) sample is generated by first drawing a short one-sentence audio clip from Common Voice spoken in one of w languages with equal probability. An image is drawn from ImageNet that corresponds to one of 1,000 classes with equal probability. Finally, text containing exactly w words is generated based on the drawn audio and image: one of the w words in the text is the drawn image class name in the drawn audio language. The remaining w-1 words are randomly chosen from the ImageNet class names and written in one of the w languages such that there is no overlap in language or class name across the w words in the text. The words are separated by underscores, and their order is randomized.

Tasks

The dataset was designed to evaluate a model on the zero-shot retrieval task of finding an image of the appropriate class given the audio and text. The most probable image for a given query audio and text pair, selected from all possible candidate images in the test set, is that with the highest similarity score.

The dataset was designed to ensure that neither text nor audio alone would suffice to predict the image. Therefore, success on this zero-shot retrieval task hinges on a model's ability to capture joint information between the three modalities.

Dataset Structure

Each sample in the dataset is a dictionary containing the following fields:

{
    # language code of the audio clip
    'lang': 'ja',
    
    # audio data
    'audio': {
        'path': 'common_voice_ja_39019065.mp3',                 # Common Voice filename
        'array': array([0.00000000e+00, ..., 7.78421963e-06]),  # raw audio waveform
        'sampling_rate': 32000                                  # sampling rate in Hz
    },
    
    # image as a PIL Image object (RGB, size varies)
    'image': <PIL.JpegImageFile image mode=RGB size=500x375>,
    
    # text containing w words (one per language) separated by underscores
    'text': 'σπιτάκι πουλιών_ドーム_प्रयोगशाला कोट_мавпа-павук_gown',
    
    # target word class name in English (key in translations.json)
    'cls': 'dome',
    
    # class ID from translations.json (0 to 999)
    'cls_id': 538,
    
    # target word (class name in the language of the audio)
    'target_text': 'ドーム'
}

The dataset includes a translations.json file that maps ImageNet class names across all supported languages. Each entry contains:

  • The English class name as the key
  • Translations for all supported languages (ar, el, en, hi, ja, ko, te, th, uk, zh-CN)
  • The ImageNet synset ID
  • A unique class ID (0-999)

Example structure:

{
    "tench": {
        "synset_id": "n01440764",
        "cls_id": 0,
        "ar": "سمك البنش",
        "el": "είδος κυπρίνου",
        "en": "tench",
        "hi": "टेंच",
        "ja": "テンチ",
        "ko": "텐치",
        "te": "టెంచ్",
        "th": "ปลาเทนช์",
        "uk": "линь",
        "zh-CN": "丁鱥"
    }
}

Dataset Variants

We release three variants of the dataset:

  • Symile-M3-2 with 2 languages: English (en) and Greek (el).
  • Symile-M3-5 with 5 languages: English (en), Greek (el), Hindi (hi), Japanese (ja), and Ukrainian (uk).
  • Symile-M3-10 with 10 languages: Arabic (ar), Greek (el), English (en), Hindi (hi), Japanese (ja), Korean (ko), Telugu (te), Thai (th), Ukrainian (uk), and Chinese (zh-CN).

Each variant is available in four sizes:

  • Large (l): 10M training samples, 500K validation samples, 500K test samples
  • Medium (m): 5M training samples, 250K validation samples, 250K test samples
  • Small (s): 1M training samples, 50K validation samples, 50K test samples
  • Extra Small (xs): 500K training samples, 25K validation samples, 25K test samples

Usage

Before using the dataset, ensure you have the required audio and image processing libraries installed:

pip install librosa soundfile pillow

To load a specific version of Symile-M3, use a configuration name following the pattern symile-m3-{num_langs}-{size} where:

  • num_langs is 2, 5, or 10
  • size is xs, s, m, or l

For example, to load the xs version of Symile-M3-5:

from datasets import load_dataset

dataset = load_dataset("arsaporta/symile-m3", "symile-m3-5-xs")

print(dataset['train'][0])    # access first train sample
print(len(dataset['train']))  # get number of train samples

To process the dataset without loading it entirely into memory, use streaming mode to load samples one at a time:

from datasets import load_dataset

dataset = load_dataset("arsaporta/symile-m3", "symile-m3-5-xs", streaming=True)

print(next(iter(dataset['train'])))

To download the dataset for offline use:

import os
from datasets import load_dataset
from huggingface_hub import snapshot_download

local_dir = "./symile-m3-5-xs" # where to save

# download parquet files
snapshot_download(
    repo_id="arsaporta/symile-m3",
    repo_type="dataset",
    local_dir=local_dir,
    allow_patterns=["symile-m3-5-xs/*"]  # which configuration to download
)

# load the downloaded parquet files
dataset = load_dataset(
    "parquet",
    data_files={
        "train": os.path.join(data_dir, "train-*.parquet"),
        "validation": os.path.join(data_dir, "val-*.parquet"),
        "test": os.path.join(data_dir, "test-*.parquet")
    }
)

Working with Raw Data

To work directly with the source images (jpeg) and audio (mp3):

  1. Download the source data:

    • ImageNet: Get the training data from Kaggle's ImageNet Challenge
    • Common Voice: Download your needed languages from Common Voice:
      • All languages use Common Voice v16.0, except English which uses v14.0
      • Required languages vary by configuration:
        • Symile-M3-2: English (en), Greek (el)
        • Symile-M3-5: English, Greek, Hindi (hi), Japanese (ja), Ukrainian (uk)
        • Symile-M3-10: All of the above plus Arabic (ar), Korean (ko), Telugu (te), Thai (th), Chinese (zh-CN)
  2. Access the dataset CSV files:

    • Find them in the .csv_files directory, organized by configuration (e.g., symile-m3-2-xs, symile-m3-10-l)
    • Each configuration contains train.csv, val.csv, and test.csv
    • CSV paths match the default extraction paths of ImageNet (ILSVRC/Data/CLS-LOC/train/...) and Common Voice (cv/{lang}/clips/...)

Citation

@inproceedings{saporta2024symile,
  title = {Contrasting with Symile: Simple Model-Agnostic Representation Learning for Unlimited Modalities}
  author = {Saporta, Adriel and Puli, Aahlad and Goldstein, Mark and Ranganath, Rajesh}
  booktitle = {Advances in Neural Information Processing Systems},
  year = {2024}
}
Downloads last month
1,024