README.md · procesaur/znanje at main

metadata

language:
  - sr
  - hr
  - sl
  - bs
pretty_name: ZNANJE
size_categories:
  - 1B<n<10B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*_sr.jsonl'
          - '*_hr.jsonl'
          - '*_cnr.jsonl'
          - '*_bs.jsonl'
      - split: sr
        path: '*_sr.jsonl'
      - split: hr
        path: '*_hr.jsonl'
      - split: si
        path: '*_si.jsonl'
      - split: bs
        path: '*_bs.jsonl'
      - split: sve
        path:
          - '*_sr.jsonl'
          - '*_hr.jsonl'
          - '*_cnr.jsonl'
          - '*_bs.jsonl'
          - '*_si.jsonl'
task_categories:
  - text-generation
license: cc-by-sa-4.0

Skup naučnih i stručnih publikacija na Južnoslovenskim jezicima

Visoko-kvalitetan skup raznovrsnih naučnih publikacija

Neophodan za obučavanje kvalitetnih jezičkih modela za južnoslovenske jezike.

Ukupno 280,460 dokumenata, ukupno sa preko 4.2 milijarde reči, 1.9 milijardi na srpskohrvatskom i 2.3 milijarde na slovenačkom jeziku

Svaka JSON linija predstavlja jednu publikaciju.

Unutar svakog dokumenta su obeležene rečenice i paragrafi.

Set of South Slavic Scientific Research and Professional publications

Highly curated, High-qualityand diverse scientific publications.

Necessary for training quality language models for South Slavic languages.

A total of 280,460 documents containing over 4.2 billion words, 1.9 billion for Serbo-Croatian and 2.3 billion for Slovenian

Each JSON line represents one publication.

All documents are paragraph and sentence-delimited.

	Број докумената Doc. count	Број реченица Sent. count	Број речи Word count	Удео Share
NARDUS 🇷🇸	11,432	22,779,252	574,600,000	30%
Institucionalni repozitorijumi radova 🇷🇸	10,889	4,192,656	109,400,000	5.7%
Univerzitet Crne Gore 🇷🇸/🇲🇪	315	605,119	14,500,000	0.8%
Univerzitet u Istočnom Sarajevu 🇷🇸	8	21,156	510,000	<0.1%
DABAR 🇭🇷	108,786	53,369,657	1,214,000,000	63.4%
Open Science Slovenia 🇷🇸 🇭🇷 🇧🇦	176	113,339	2,694,331	0.1%
Укупно Total	131,606	81,060,023	1,915,704,331	100%

	Број докумената Doc. count	Број реченица Sent. count	Број речи Word count	Удео Share
Open Science Slovenia 🇸🇮	148,158	104,986,413	2,295,828,582	100%

from datasets import load_dataset
dataset = load_dataset("procesaur/ZNANJE")

Editor

Mihailo Škorić

@procesaur

Editor

Nikola Janković

@Nikola-92

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}

Istraživanje je sprovedeno uz podršku Fonda za nauku Republike Srbije, #7276, Text Embeddings – Serbian Language Applications – TESLA.

This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA.