| from dataclasses import dataclass |
|
|
| import datasets |
| import pytorch_ie.data.builder |
| from pytorch_ie.annotations import LabeledSpan |
| from pytorch_ie.core import AnnotationList, annotation_field |
| from pytorch_ie.documents import TextDocument |
| from pytorch_ie.utils.span import tokens_and_tags_to_text_and_labeled_spans |
|
|
| _VERSION = "1.1.0" |
| _LANGS = [ |
| "ace", |
| "af", |
| "als", |
| "am", |
| "an", |
| "ang", |
| "ar", |
| "arc", |
| "arz", |
| "as", |
| "ast", |
| "ay", |
| "az", |
| "ba", |
| "bar", |
| "bat-smg", |
| "be", |
| "be-x-old", |
| "bg", |
| "bh", |
| "bn", |
| "bo", |
| "br", |
| "bs", |
| "ca", |
| "cbk-zam", |
| "cdo", |
| "ce", |
| "ceb", |
| "ckb", |
| "co", |
| "crh", |
| "cs", |
| "csb", |
| "cv", |
| "cy", |
| "da", |
| "de", |
| "diq", |
| "dv", |
| "el", |
| "eml", |
| "en", |
| "eo", |
| "es", |
| "et", |
| "eu", |
| "ext", |
| "fa", |
| "fi", |
| "fiu-vro", |
| "fo", |
| "fr", |
| "frr", |
| "fur", |
| "fy", |
| "ga", |
| "gan", |
| "gd", |
| "gl", |
| "gn", |
| "gu", |
| "hak", |
| "he", |
| "hi", |
| "hr", |
| "hsb", |
| "hu", |
| "hy", |
| "ia", |
| "id", |
| "ig", |
| "ilo", |
| "io", |
| "is", |
| "it", |
| "ja", |
| "jbo", |
| "jv", |
| "ka", |
| "kk", |
| "km", |
| "kn", |
| "ko", |
| "ksh", |
| "ku", |
| "ky", |
| "la", |
| "lb", |
| "li", |
| "lij", |
| "lmo", |
| "ln", |
| "lt", |
| "lv", |
| "map-bms", |
| "mg", |
| "mhr", |
| "mi", |
| "min", |
| "mk", |
| "ml", |
| "mn", |
| "mr", |
| "ms", |
| "mt", |
| "mwl", |
| "my", |
| "mzn", |
| "nap", |
| "nds", |
| "ne", |
| "nl", |
| "nn", |
| "no", |
| "nov", |
| "oc", |
| "or", |
| "os", |
| "pa", |
| "pdc", |
| "pl", |
| "pms", |
| "pnb", |
| "ps", |
| "pt", |
| "qu", |
| "rm", |
| "ro", |
| "ru", |
| "rw", |
| "sa", |
| "sah", |
| "scn", |
| "sco", |
| "sd", |
| "sh", |
| "si", |
| "simple", |
| "sk", |
| "sl", |
| "so", |
| "sq", |
| "sr", |
| "su", |
| "sv", |
| "sw", |
| "szl", |
| "ta", |
| "te", |
| "tg", |
| "th", |
| "tk", |
| "tl", |
| "tr", |
| "tt", |
| "ug", |
| "uk", |
| "ur", |
| "uz", |
| "vec", |
| "vep", |
| "vi", |
| "vls", |
| "vo", |
| "wa", |
| "war", |
| "wuu", |
| "xmf", |
| "yi", |
| "yo", |
| "zea", |
| "zh", |
| "zh-classical", |
| "zh-min-nan", |
| "zh-yue", |
| ] |
|
|
|
|
| class WikiANNConfig(datasets.BuilderConfig): |
| def __init__(self, **kwargs): |
| super().__init__(version=datasets.Version(_VERSION, ""), **kwargs) |
|
|
|
|
| @dataclass |
| class WikiANNDocument(TextDocument): |
| entities: AnnotationList[LabeledSpan] = annotation_field(target="text") |
|
|
|
|
| class WikiANN(pytorch_ie.data.builder.GeneratorBasedBuilder): |
| DOCUMENT_TYPE = WikiANNDocument |
|
|
| BASE_DATASET_PATH = "wikiann" |
|
|
| BUILDER_CONFIGS = [ |
| WikiANNConfig(name=lang, description=f"WikiANN NER examples in language {lang}") |
| for lang in _LANGS |
| ] |
|
|
| def _generate_document_kwargs(self, dataset): |
| return {"int_to_str": dataset.features["ner_tags"].feature.int2str} |
|
|
| def _generate_document(self, example, int_to_str): |
| tokens = example["tokens"] |
| ner_tags = [int_to_str(tag) for tag in example["ner_tags"]] |
|
|
| text, ner_spans = tokens_and_tags_to_text_and_labeled_spans(tokens=tokens, tags=ner_tags) |
|
|
| document = WikiANNDocument(text=text, id=None) |
|
|
| for span in sorted(ner_spans, key=lambda span: span.start): |
| document.entities.append(span) |
|
|
| return document |
|
|
