Alvant
commited on
Commit
·
8b16a6e
1
Parent(s):
a4640ab
add dataset info
Browse files
README.md
CHANGED
|
@@ -14,3 +14,37 @@ configs:
|
|
| 14 |
- split: train
|
| 15 |
path: "data/noow/postnauka.csv.gz"
|
| 16 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 14 |
- split: train
|
| 15 |
path: "data/noow/postnauka.csv.gz"
|
| 16 |
---
|
| 17 |
+
|
| 18 |
+
|
| 19 |
+
# PostNauka
|
| 20 |
+
|
| 21 |
+
Измеряемые характеристики датасета:
|
| 22 |
+
|
| 23 |
+
* D — число документов
|
| 24 |
+
* <имя модальности> W — размер словаря данной модальности (количество уникальных токенов)
|
| 25 |
+
* <имя модальности> len D — средняя длина документа в терминах этой модальности (количество слов)
|
| 26 |
+
* <имя модальности> len D uniq — средняя длина документа в уникальных терминах этой модальности (количество уникальных слов)
|
| 27 |
+
|
| 28 |
+
|
| 29 |
+
| | D | @title W | @title len D | @title len D uniq | @2gramm W | @2gramm len D | @2gramm len D uniq | @3gramm W | @3gramm len D | @3gramm len D uniq | @snippet W | @snippet len D | @snippet len D uniq | @word W | @word len D | @word len D uniq | @post_tag W | @post_tag len D | @post_tag len D uniq | @author W | @author len D | @author len D uniq |
|
| 30 |
+
|:------|------------:|------------------:|----------------------:|---------------------------:|-------------------:|-----------------------:|----------------------------:|-------------------:|-----------------------:|----------------------------:|--------------------:|------------------------:|-----------------------------:|-----------------:|---------------------:|--------------------------:|---------------------:|-------------------------:|------------------------------:|-------------------:|-----------------------:|----------------------------:|
|
| 31 |
+
| value | 3404 | 13546 | 3.97944 | 3.98002 | 163289 | 47.9697 | 37.0029 | 5848 | 1.71798 | 1.30288 | 46033 | 13.5232 | 13.5256 | 1.43373e+06 | 421.189 | 254.58 | 18031 | 5.297 | 5.297 | 3685 | 1.08255 | 1.08255 |
|
| 32 |
+
|
| 33 |
+
|
| 34 |
+
Модальность `@snippet` — сырой необработанный текст, предназначенный для показа топ-документов.
|
| 35 |
+
|
| 36 |
+
Информация о длинах документов в расчёте на модальность:
|
| 37 |
+
|
| 38 |
+
|
| 39 |
+
| | len_total@title | len_total@2gramm | len_total@3gramm | len_total@snippet | len_total@word | len_total@post_tag | len_total@author | len_uniq@title | len_uniq@2gramm | len_uniq@3gramm | len_uniq@snippet | len_uniq@word | len_uniq@post_tag | len_uniq@author |
|
| 40 |
+
|:-----|------------------:|-------------------:|-------------------:|--------------------:|-----------------:|---------------------:|-------------------:|-----------------:|------------------:|------------------:|-------------------:|----------------:|--------------------:|------------------:|
|
| 41 |
+
| mean | 3.98002 | 47.9697 | 1.71798 | 13.5244 | 421.189 | 5.297 | 1.08255 | 3.98002 | 37.0029 | 1.30288 | 13.5256 | 254.58 | 5.297 | 1.08255 |
|
| 42 |
+
| std | 2.21452 | 49.9748 | 3.07432 | 3.0559 | 482.422 | 2.01979 | 0.413483 | 2.21452 | 35.4885 | 1.81957 | 3.05377 | 249.288 | 2.01979 | 0.413483 |
|
| 43 |
+
| min | 1 | 0 | 0 | 5 | 3 | 1 | 0 | 1 | 0 | 0 | 5 | 3 | 1 | 0 |
|
| 44 |
+
| 25% | 2 | 15 | 0 | 12 | 106 | 4 | 1 | 2 | 13 | 0 | 12 | 80 | 4 | 1 |
|
| 45 |
+
| 50% | 3.5 | 33 | 1 | 13 | 294 | 5 | 1 | 3.5 | 27 | 1 | 13 | 197 | 5 | 1 |
|
| 46 |
+
| 75% | 5 | 67 | 2 | 15 | 563 | 6 | 1 | 5 | 52 | 2 | 15 | 343 | 6 | 1 |
|
| 47 |
+
| max | 22 | 778 | 69 | 28 | 4892 | 18 | 4 | 22 | 444 | 27 | 28 | 2277 | 18 | 4 |
|
| 48 |
+
|
| 49 |
+
|
| 50 |
+
Существует \"эталонная\" тематическая модель на 19 + 1 (фоновую) тему.
|