Update multiconer_v2.py

multiconer_v2.py

@@ -285,17 +285,18 @@ class MultiCoNER2(datasets.GeneratorBasedBuilder):
 
     def _generate_examples(self, filepath):
         logger.info("⏳ Generating examples from = %s", filepath)
+        
 
         content = open(filepath, 'r').read().strip()
         lines = content.split('\n')
 
-        yield 1, {
-                "id": '1',
-                "sample_id": lines[0],
-                "tokens": lines[1:5],
-                "ner_tags": lines[5:10],
-            }
+        items = [(4, {'id': '5fcb44ad-c1ef-4925-be27-008a76667b3b', 'tokens': ['রাস্তায়', 'রঙিন', 'লাইট', 'এবং', 'বাদশাহী', 'মসজিদ', 'এর', 'দৃশ্য', 'রয়েছে', 'এবং', 'এটি', 'রোশনাই', 'গেট', 'এর', 'নিকটে', 'রয়েছে'], 'ner_tags': ['O', 'O', 'O', 'O', 'B-Facility', 'I-Facility', 'O', 'O', 'O', 'O', 'O', 'B-OtherPROD', 'I-OtherPROD', 'O', 'O', 'O']}),
+            (5, {'id': '44334ba4-0ebb-4001-83a7-525473eba921', 'tokens': ['ফাইল', ':', 'একে', '৭৪', 'বোল্ট।', 'জেপিজি', '|', 'একে-৭৪', 'বোল্ট', 'এবং', 'ফায়ারিং', 'পিন।'], 'ner_tags': ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'B-OtherPROD', 'O', 'O', 'O', 'O']}),
+            (6, {'id': '8c87e2f6-cacc-43a8-bb0f-40aa3817af48', 'tokens': ['যখন', 'নিমজ্জিত', 'হয়', 'প্রতিটি', 'প্রোপেলার', 'একটি', 'বৈদ্যুতিক', 'মোটর', 'দ্বারা', 'চালিত', 'হয়েছিল।'], 'ner_tags': ['O', 'O', 'O', 'O', 'O', 'O', 'B-OtherPROD', 'I-OtherPROD', 'O', 'O', 'O']}),
+            (7, {'id': '624ef8af-c8d6-4f28-b946-53344d721b6e', 'tokens': ['বেশ', 'কয়েকটি', 'অ্যাসকোমাইসেট', 'ছত্রাকের', 'বংশাণুসমগ্র', 'পুরোপুরি', 'ক্রমযুক্ত', 'হয়েছে।'], 'ner_tags': ['O', 'O', 'O', 'O', 'B-OtherPROD', 'O', 'O', 'O']})]
 
+        for it in items:
+            yield it
         # guid = -1
         # s_id = None
         # tokens = []