Datasets:

Modalities:
Text
Formats:
csv
ArXiv:
Libraries:
Datasets
pandas
License:
RajveeSheth commited on
Commit
0251b95
·
verified ·
1 Parent(s): ee6ebe9

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +11 -11
README.md CHANGED
@@ -51,28 +51,28 @@ configs:
51
  * **Language Identification (LID):** Token-wise classification of Hindi, English, and other linguistic units.<br>
52
  Initial predictions were generated using the [Microsoft LID tool](https://github.com/microsoft/LID-tool), which annotators then reviewed and corrected.
53
  ```
54
- Example sentence:
55
- प्रधानमंत्री नरेन्द्र मोदी डिजिटल इंडिया मिशन को आगे बढ़ाने के लिए पिछले सप्ताह Google के CEO सुंदर पिचाई से मुलाकात की थी।
56
- hi hi hi en en en hi hi hi hi hi hi hi en hi en hi hi hi hi hi hi
57
  ```
58
  * **Matrix Language Identification (MLI):** Sentence-level annotation of the dominant language.
59
  ```
60
- Example sentence:
61
- "किसानों को अपनी फसल बेचने में दिक्कत न हो इसके लिये Electronic National Agriculture Market यानि ई-नाम योजना तेजी से काम हो रहा है।" Tagged Language: Hindi
62
- "India’s automation and design expert pool is vast, और ज़्यादातर Global companies के इंजीिनयिंरग center भी भारत में हैं।" Tagged Language: English
63
  ```
64
  * **Part-of-Speech (POS) Tagging:** Syntactic categorization for linguistic analysis.<br>
65
  Tags were pre-assigned using the [CodeSwitch NLP library](https://github.com/sagorbrur/codeswitch), which annotators then reviewed and corrected.
66
  ```
67
- Example sentence:
68
- भारत द्वारा बनाया गया Unified Payments Interface यानि UPI भारत की एक बहुत बड़ी success story है ।
69
- PROPN ADP VERB VERB PROPN PROPN PROPN CONJ PROPN PROPN ADP DET ADJ ADJ NOUN NOUN VERB X
70
  ```
71
  * **Named Entity Recognition (NER):** Identification of entities in Hinglish text.<br>
72
  Each token is pre-assigned a language tag using the [CodeSwitch NLP library](https://github.com/sagorbrur/codeswitch), which annotators then reviewed and corrected.
73
  ```
74
- Example sentence:
75
- "मालूम हो कि पेरिस स्थित Financial Action Task Force, FATF ने जून 2018 में पाकिस्तान को ग्रे लिस्ट में रखा था।"
76
  NER tags: "पेरिस": GPE, "Financial Action Task Force, FATF": ORGANISATION, "2018": Date, "पाकिस्तान": GPE
77
  ```
78
  * **Translation:** Parallel translation of sentences in Romanized Hindi and Devanagari Hindi and English languages.<br>
 
51
  * **Language Identification (LID):** Token-wise classification of Hindi, English, and other linguistic units.<br>
52
  Initial predictions were generated using the [Microsoft LID tool](https://github.com/microsoft/LID-tool), which annotators then reviewed and corrected.
53
  ```
54
+ Example:
55
+ sentence: प्रधानमंत्री नरेन्द्र मोदी डिजिटल इंडिया मिशन को आगे बढ़ाने के लिए पिछले सप्ताह Google के CEO सुंदर पिचाई से मुलाकात की थी।
56
+ LID tags: hi hi hi en en en hi hi hi hi hi hi hi en hi en hi hi hi hi hi hi
57
  ```
58
  * **Matrix Language Identification (MLI):** Sentence-level annotation of the dominant language.
59
  ```
60
+ Example:
61
+ sentence:"किसानों को अपनी फसल बेचने में दिक्कत न हो इसके लिये Electronic National Agriculture Market यानि ई-नाम योजना तेजी से काम हो रहा है।" Tagged Language: Hindi
62
+ sentence:"India’s automation and design expert pool is vast, और ज़्यादातर Global companies के इंजीिनयिंरग center भी भारत में हैं।" Tagged Language: English
63
  ```
64
  * **Part-of-Speech (POS) Tagging:** Syntactic categorization for linguistic analysis.<br>
65
  Tags were pre-assigned using the [CodeSwitch NLP library](https://github.com/sagorbrur/codeswitch), which annotators then reviewed and corrected.
66
  ```
67
+ Example:
68
+ sentence: भारत द्वारा बनाया गया Unified Payments Interface यानि UPI भारत की एक बहुत बड़ी success story है ।
69
+ POS tags: PROPN ADP VERB VERB PROPN PROPN PROPN CONJ PROPN PROPN ADP DET ADJ ADJ NOUN NOUN VERB X
70
  ```
71
  * **Named Entity Recognition (NER):** Identification of entities in Hinglish text.<br>
72
  Each token is pre-assigned a language tag using the [CodeSwitch NLP library](https://github.com/sagorbrur/codeswitch), which annotators then reviewed and corrected.
73
  ```
74
+ Example:
75
+ sentence: "मालूम हो कि पेरिस स्थित Financial Action Task Force, FATF ने जून 2018 में पाकिस्तान को ग्रे लिस्ट में रखा था।"
76
  NER tags: "पेरिस": GPE, "Financial Action Task Force, FATF": ORGANISATION, "2018": Date, "पाकिस्तान": GPE
77
  ```
78
  * **Translation:** Parallel translation of sentences in Romanized Hindi and Devanagari Hindi and English languages.<br>