Upload generate_train_test_sets_for_ua_l_topics.ipynb
Browse files
notebooks/generate_train_test_sets_for_ua_l_topics.ipynb
ADDED
|
@@ -0,0 +1,405 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"nbformat": 4,
|
| 3 |
+
"nbformat_minor": 0,
|
| 4 |
+
"metadata": {
|
| 5 |
+
"colab": {
|
| 6 |
+
"provenance": []
|
| 7 |
+
},
|
| 8 |
+
"kernelspec": {
|
| 9 |
+
"name": "python3",
|
| 10 |
+
"display_name": "Python 3"
|
| 11 |
+
},
|
| 12 |
+
"language_info": {
|
| 13 |
+
"name": "python"
|
| 14 |
+
}
|
| 15 |
+
},
|
| 16 |
+
"cells": [
|
| 17 |
+
{
|
| 18 |
+
"cell_type": "code",
|
| 19 |
+
"execution_count": 21,
|
| 20 |
+
"metadata": {
|
| 21 |
+
"id": "5vjOBgTjWZ_H"
|
| 22 |
+
},
|
| 23 |
+
"outputs": [],
|
| 24 |
+
"source": [
|
| 25 |
+
"import json\n",
|
| 26 |
+
"import polars as pl\n",
|
| 27 |
+
"\n",
|
| 28 |
+
"from sklearn.model_selection import train_test_split"
|
| 29 |
+
]
|
| 30 |
+
},
|
| 31 |
+
{
|
| 32 |
+
"cell_type": "code",
|
| 33 |
+
"source": [
|
| 34 |
+
"df = pl.read_ndjson('hf://datasets/ua-l/topics/train.jsonl')"
|
| 35 |
+
],
|
| 36 |
+
"metadata": {
|
| 37 |
+
"id": "t2QgnnBpWefe"
|
| 38 |
+
},
|
| 39 |
+
"execution_count": 2,
|
| 40 |
+
"outputs": []
|
| 41 |
+
},
|
| 42 |
+
{
|
| 43 |
+
"cell_type": "code",
|
| 44 |
+
"source": [
|
| 45 |
+
"df.describe()"
|
| 46 |
+
],
|
| 47 |
+
"metadata": {
|
| 48 |
+
"colab": {
|
| 49 |
+
"base_uri": "https://localhost:8080/",
|
| 50 |
+
"height": 380
|
| 51 |
+
},
|
| 52 |
+
"id": "cwyp-iWZWm9K",
|
| 53 |
+
"outputId": "51d9dd16-9d38-4bfe-fd12-f1ce2b11760d"
|
| 54 |
+
},
|
| 55 |
+
"execution_count": 3,
|
| 56 |
+
"outputs": [
|
| 57 |
+
{
|
| 58 |
+
"output_type": "execute_result",
|
| 59 |
+
"data": {
|
| 60 |
+
"text/plain": [
|
| 61 |
+
"shape: (9, 4)\n",
|
| 62 |
+
"┌────────────┬──────────────────────────────┬─────────────────────────────┬────────────────────────┐\n",
|
| 63 |
+
"│ statistic ┆ question_title ┆ question_body ┆ label │\n",
|
| 64 |
+
"│ --- ┆ --- ┆ --- ┆ --- │\n",
|
| 65 |
+
"│ str ┆ str ┆ str ┆ str │\n",
|
| 66 |
+
"╞════════════╪══════════════════════════════╪═════════════════════════════╪════════════════════════╡\n",
|
| 67 |
+
"│ count ┆ 3246 ┆ 3246 ┆ 3246 │\n",
|
| 68 |
+
"│ null_count ┆ 0 ┆ 0 ┆ 0 │\n",
|
| 69 |
+
"│ mean ┆ null ┆ null ┆ null │\n",
|
| 70 |
+
"│ std ┆ null ┆ null ┆ null │\n",
|
| 71 |
+
"│ min ┆ \"ВИКЛЮЧЕНИЙ З ВІЙСЬКОВОГО ┆ ┆ administrativnie_pravo │\n",
|
| 72 |
+
"│ ┆ ОБЛІ… ┆ ┆ │\n",
|
| 73 |
+
"│ 25% ┆ null ┆ null ┆ null │\n",
|
| 74 |
+
"│ 50% ┆ null ┆ null ┆ null │\n",
|
| 75 |
+
"│ 75% ┆ null ┆ null ┆ null │\n",
|
| 76 |
+
"│ max ┆ чи можна переписати хату на ┆ ⚡️ Роз'яснення щодо нового ┆ ziemielnie_pravo │\n",
|
| 77 |
+
"│ ┆ ко… ┆ моб… ┆ │\n",
|
| 78 |
+
"└────────────┴──────────────────────────────┴─────────────────────────────┴────────────────────────┘"
|
| 79 |
+
],
|
| 80 |
+
"text/html": [
|
| 81 |
+
"<div><style>\n",
|
| 82 |
+
".dataframe > thead > tr,\n",
|
| 83 |
+
".dataframe > tbody > tr {\n",
|
| 84 |
+
" text-align: right;\n",
|
| 85 |
+
" white-space: pre-wrap;\n",
|
| 86 |
+
"}\n",
|
| 87 |
+
"</style>\n",
|
| 88 |
+
"<small>shape: (9, 4)</small><table border=\"1\" class=\"dataframe\"><thead><tr><th>statistic</th><th>question_title</th><th>question_body</th><th>label</th></tr><tr><td>str</td><td>str</td><td>str</td><td>str</td></tr></thead><tbody><tr><td>"count"</td><td>"3246"</td><td>"3246"</td><td>"3246"</td></tr><tr><td>"null_count"</td><td>"0"</td><td>"0"</td><td>"0"</td></tr><tr><td>"mean"</td><td>null</td><td>null</td><td>null</td></tr><tr><td>"std"</td><td>null</td><td>null</td><td>null</td></tr><tr><td>"min"</td><td>""ВИКЛЮЧЕНИЙ З ВІЙСЬКОВОГО ОБЛІ…</td><td>""</td><td>"administrativnie_pravo"</td></tr><tr><td>"25%"</td><td>null</td><td>null</td><td>null</td></tr><tr><td>"50%"</td><td>null</td><td>null</td><td>null</td></tr><tr><td>"75%"</td><td>null</td><td>null</td><td>null</td></tr><tr><td>"max"</td><td>"чи можна переписати хату на ко…</td><td>"⚡️ Роз'яснення щодо нового моб…</td><td>"ziemielnie_pravo"</td></tr></tbody></table></div>"
|
| 89 |
+
]
|
| 90 |
+
},
|
| 91 |
+
"metadata": {},
|
| 92 |
+
"execution_count": 3
|
| 93 |
+
}
|
| 94 |
+
]
|
| 95 |
+
},
|
| 96 |
+
{
|
| 97 |
+
"cell_type": "code",
|
| 98 |
+
"source": [
|
| 99 |
+
"label_to_question = {}\n",
|
| 100 |
+
"\n",
|
| 101 |
+
"for question in df.iter_rows(named=True):\n",
|
| 102 |
+
" label = question['label']\n",
|
| 103 |
+
"\n",
|
| 104 |
+
" if label not in label_to_question:\n",
|
| 105 |
+
" label_to_question[label] = [\n",
|
| 106 |
+
" question,\n",
|
| 107 |
+
" ]\n",
|
| 108 |
+
" else:\n",
|
| 109 |
+
" label_to_question[label].append(\n",
|
| 110 |
+
" question,\n",
|
| 111 |
+
" )"
|
| 112 |
+
],
|
| 113 |
+
"metadata": {
|
| 114 |
+
"id": "lVE8GQPaWzxR"
|
| 115 |
+
},
|
| 116 |
+
"execution_count": 4,
|
| 117 |
+
"outputs": []
|
| 118 |
+
},
|
| 119 |
+
{
|
| 120 |
+
"cell_type": "code",
|
| 121 |
+
"source": [
|
| 122 |
+
"len(label_to_question.keys())"
|
| 123 |
+
],
|
| 124 |
+
"metadata": {
|
| 125 |
+
"colab": {
|
| 126 |
+
"base_uri": "https://localhost:8080/"
|
| 127 |
+
},
|
| 128 |
+
"id": "HQ1oArV1Z2Xl",
|
| 129 |
+
"outputId": "fce38efd-de0a-463f-ce84-f5bbea16c739"
|
| 130 |
+
},
|
| 131 |
+
"execution_count": 8,
|
| 132 |
+
"outputs": [
|
| 133 |
+
{
|
| 134 |
+
"output_type": "execute_result",
|
| 135 |
+
"data": {
|
| 136 |
+
"text/plain": [
|
| 137 |
+
"39"
|
| 138 |
+
]
|
| 139 |
+
},
|
| 140 |
+
"metadata": {},
|
| 141 |
+
"execution_count": 8
|
| 142 |
+
}
|
| 143 |
+
]
|
| 144 |
+
},
|
| 145 |
+
{
|
| 146 |
+
"cell_type": "code",
|
| 147 |
+
"source": [
|
| 148 |
+
"train_all = []\n",
|
| 149 |
+
"test_all = []\n",
|
| 150 |
+
"\n",
|
| 151 |
+
"for label, questions in label_to_question.items():\n",
|
| 152 |
+
" train, test = train_test_split(questions, test_size=0.1, random_state=123, shuffle=True)\n",
|
| 153 |
+
"\n",
|
| 154 |
+
" print(label, 'questions:', len(questions), 'train:', len(train), 'test:', len(test))\n",
|
| 155 |
+
" print('train sample:', train[0])\n",
|
| 156 |
+
" print('test sample:', test[0])\n",
|
| 157 |
+
" print('---')\n",
|
| 158 |
+
"\n",
|
| 159 |
+
" train_all.extend(train)\n",
|
| 160 |
+
" test_all.extend(test)"
|
| 161 |
+
],
|
| 162 |
+
"metadata": {
|
| 163 |
+
"colab": {
|
| 164 |
+
"base_uri": "https://localhost:8080/"
|
| 165 |
+
},
|
| 166 |
+
"id": "4tAkUhTSZxqQ",
|
| 167 |
+
"outputId": "6312a321-57d3-4bed-eb6a-5aa08229147a"
|
| 168 |
+
},
|
| 169 |
+
"execution_count": 18,
|
| 170 |
+
"outputs": [
|
| 171 |
+
{
|
| 172 |
+
"output_type": "stream",
|
| 173 |
+
"name": "stdout",
|
| 174 |
+
"text": [
|
| 175 |
+
"opodatkuvannia questions: 119 train: 107 test: 12\n",
|
| 176 |
+
"train sample: {'question_title': 'Який розмір військового збору буде для ФОПів?', 'question_body': 'Який розмір військового збору буде для ФОПів?', 'label': 'opodatkuvannia'}\n",
|
| 177 |
+
"test sample: {'question_title': 'Як не потрапити під подвійне оподаткування?', 'question_body': '', 'label': 'opodatkuvannia'}\n",
|
| 178 |
+
"---\n",
|
| 179 |
+
"viiskovie_pravo questions: 445 train: 400 test: 45\n",
|
| 180 |
+
"train sample: {'question_title': 'Чи може мати сама подати документи про інвалідність до війсккомату?', 'question_body': \"Якщо не служив (ст.17 б), а тепер військовозобов'язаний, не надає у військкомат документи про інвалідність 2 гр. матері отриманої в травні 2023 р. Чи може мати сама подати ці документи? Живемо вдвох. Чи тягне за собою неподання документів про зміну статусу матері якісь штрафи?\", 'label': 'viiskovie_pravo'}\n",
|
| 181 |
+
"test sample: {'question_title': 'Питання щодо права на відстрочку', 'question_body': 'Чи маю я право на відстрочку, якщо в мене є дитина - інвалід, однак я розлучений із жінкою та не проживаю разом із дитиною. Гроші на утримання дитини я постійно скидаю колишній жінці.', 'label': 'viiskovie_pravo'}\n",
|
| 182 |
+
"---\n",
|
| 183 |
+
"bankivska_diialnist questions: 88 train: 79 test: 9\n",
|
| 184 |
+
"train sample: {'question_title': \"Які юридичні вимоги пов'язані з отриманням іпотечного кредиту?\", 'question_body': '', 'label': 'bankivska_diialnist'}\n",
|
| 185 |
+
"test sample: {'question_title': 'Які борги не підлягають реструктуризації?', 'question_body': '', 'label': 'bankivska_diialnist'}\n",
|
| 186 |
+
"---\n",
|
| 187 |
+
"sotsialnyj_zakhist questions: 167 train: 150 test: 17\n",
|
| 188 |
+
"train sample: {'question_title': 'Як отримати тимчасовий захист в Італії?', 'question_body': '', 'label': 'sotsialnyj_zakhist'}\n",
|
| 189 |
+
"test sample: {'question_title': 'На війні загинув мій громадянський чоловік (солдат),через пару місяців...?', 'question_body': \"народився наш син (батьківство доведено судом, у свідоцтво про народження він вписаний правильно) у людини крім син від родичів нікого. \\r\\nВійськові кажуть, що дитина із мінімальної пенсії більше нічого не отримає, такий закон. Жодних готівкових платежів.\\r\\nЯ в дикретному із синочком, доводиться виживати на кілька тисяч на місяць.\\r\\n Хто може пояснити, чому так?\\r\\n Чому сім'ям загиблих виплачують компенсацію, а син окрім мінімальної пенсії ні копійки?\", 'label': 'sotsialnyj_zakhist'}\n",
|
| 190 |
+
"---\n",
|
| 191 |
+
"doghovirni_vidnosini questions: 41 train: 36 test: 5\n",
|
| 192 |
+
"train sample: {'question_title': 'Яким чином можна захистити свої цивільні права в ситуації порушення...?', 'question_body': '... договору? Які є правові шляхи для відшкодування збитків або отримання компенсації?', 'label': 'doghovirni_vidnosini'}\n",
|
| 193 |
+
"test sample: {'question_title': 'Підприємство оголошують банкрутом з березня і всіх скорочують...?', 'question_body': 'По вересень всі працювали, а в жовтні всіх відправлено на простій. На виплати 2/3 від окладу. З листопада всі виплати зупинили. По сьогоднішній день нічого не платять. Що каже закон? Чи чекати на якість виплати? Чи правомірно те, що люди не получають зарплату? Чекати скорочення чи писати за власним бажанням та на біржу йти?', 'label': 'doghovirni_vidnosini'}\n",
|
| 194 |
+
"---\n",
|
| 195 |
+
"prava_spozhivachiv questions: 29 train: 26 test: 3\n",
|
| 196 |
+
"train sample: {'question_title': 'Гардероб загубив куртку,як відшкодувати збитки?І довести правоту?', 'question_body': '', 'label': 'prava_spozhivachiv'}\n",
|
| 197 |
+
"test sample: {'question_title': 'Якщо ми збираємося виїхати за кордон , нам необхідно написати заяви про…?', 'question_body': '…не нарахування комунальних послуг? Чи треба це побити в кожній інстанції окремо ?', 'label': 'prava_spozhivachiv'}\n",
|
| 198 |
+
"---\n",
|
| 199 |
+
"kriminalnie_pravo questions: 71 train: 63 test: 8\n",
|
| 200 |
+
"train sample: {'question_title': 'Яким чином можна залучити колектора до кримінальної відповідальності за...?', 'question_body': '... неправомірні дії, такі як погрози, шантаж або фізична примушування?', 'label': 'kriminalnie_pravo'}\n",
|
| 201 |
+
"test sample: {'question_title': 'Яким чином можна зупинити недобросовісні практики колекторських агентств..?', 'question_body': '... такі як неправомірні стягнення, збір неправомірних комісій або підробка документів?', 'label': 'kriminalnie_pravo'}\n",
|
| 202 |
+
"---\n",
|
| 203 |
+
"avtovlasnykam questions: 130 train: 117 test: 13\n",
|
| 204 |
+
"train sample: {'question_title': 'Чи можна обміняти посвідчення водія в Європі?', 'question_body': '', 'label': 'avtovlasnykam'}\n",
|
| 205 |
+
"test sample: {'question_title': 'Обшук авто?', 'question_body': 'Мене зупинила поліція та провела обшук мого авто? це законно? коли обшук/огляд авто є законним?', 'label': 'avtovlasnykam'}\n",
|
| 206 |
+
"---\n",
|
| 207 |
+
"piensiiata_sotsialni_viplati questions: 137 train: 123 test: 14\n",
|
| 208 |
+
"train sample: {'question_title': 'Моїй мамі 85 років,вона не отримує надбавку до пенсіі в 500 грн', 'question_body': 'Надбавка для тих, кому більш ніж 80 років. Куди звернусь і як сформулювати запит?', 'label': 'piensiiata_sotsialni_viplati'}\n",
|
| 209 |
+
"test sample: {'question_title': 'Скільки необхідно стажу чоловікові для виходу на пенсії в 3 Чорнобильські…?', 'question_body': '… зоні?', 'label': 'piensiiata_sotsialni_viplati'}\n",
|
| 210 |
+
"---\n",
|
| 211 |
+
"inshe questions: 527 train: 474 test: 53\n",
|
| 212 |
+
"train sample: {'question_title': 'Який номер гарячої лінії Червоний хрест?', 'question_body': '', 'label': 'inshe'}\n",
|
| 213 |
+
"test sample: {'question_title': 'Що означає facsìmile?', 'question_body': '', 'label': 'inshe'}\n",
|
| 214 |
+
"---\n",
|
| 215 |
+
"tsivilne_pravo questions: 109 train: 98 test: 11\n",
|
| 216 |
+
"train sample: {'question_title': 'Як правильно оформити довіреність на дитину?', 'question_body': '', 'label': 'tsivilne_pravo'}\n",
|
| 217 |
+
"test sample: {'question_title': 'Що потрібно зробити виконавцю для зняття заборони на майно після сплати боргу', 'question_body': '', 'label': 'tsivilne_pravo'}\n",
|
| 218 |
+
"---\n",
|
| 219 |
+
"zhitlovi_pravovidnosini questions: 54 train: 48 test: 6\n",
|
| 220 |
+
"train sample: {'question_title': 'Як і де потрібно погоджувати перепланування квартири?', 'question_body': '', 'label': 'zhitlovi_pravovidnosini'}\n",
|
| 221 |
+
"test sample: {'question_title': 'Сусід незаконно заволодів приміщенням в ОСББ', 'question_body': 'Договору оренди нема, протоколу загальних зборів про рішення на дозвіл користування теж нема. Чи можна зрізати замок з дверей у це приміщення, тому, що це загальна власність усіх членів ОСББ?', 'label': 'zhitlovi_pravovidnosini'}\n",
|
| 222 |
+
"---\n",
|
| 223 |
+
"prava_vnutrishno_pieriemishchienikh_osib questions: 99 train: 89 test: 10\n",
|
| 224 |
+
"train sample: {'question_title': 'Дитина ВПО отримала паспорт в 14 років. Чи потрібно міняти в Управлінні...', 'question_body': '...соціального захисту населення свідоцтво про народження на паспорт та міняти справку ВПО?', 'label': 'prava_vnutrishno_pieriemishchienikh_osib'}\n",
|
| 225 |
+
"test sample: {'question_title': 'Ми сьогодні пішли в перший клас до школи, діти мають статус ВПО', 'question_body': 'Вони будуть залишатися на продленку, і нам кажуть що харчування однієї дитини 51 гр. В нас двійня, у садочку ми харчувалися безкоштовно, а тут ми маємо платити?', 'label': 'prava_vnutrishno_pieriemishchienikh_osib'}\n",
|
| 226 |
+
"---\n",
|
| 227 |
+
"sudova_praktika questions: 138 train: 124 test: 14\n",
|
| 228 |
+
"train sample: {'question_title': 'Чи правомірно коли адвокат захищав мене в попередній справі.А зараз іншу..?', 'question_body': '... сторону?', 'label': 'sudova_praktika'}\n",
|
| 229 |
+
"test sample: {'question_title': 'Якщо відповідач не явився до суду, чи відбудеться судове засідання?', 'question_body': '', 'label': 'sudova_praktika'}\n",
|
| 230 |
+
"---\n",
|
| 231 |
+
"nierukhomist questions: 89 train: 80 test: 9\n",
|
| 232 |
+
"train sample: {'question_title': 'Як отримати дозвіл на виконання будівельних робіт?', 'question_body': '', 'label': 'nierukhomist'}\n",
|
| 233 |
+
"test sample: {'question_title': 'Як продати будинок без кадастрового номеру?', 'question_body': '', 'label': 'nierukhomist'}\n",
|
| 234 |
+
"---\n",
|
| 235 |
+
"simejne_pravo questions: 264 train: 237 test: 27\n",
|
| 236 |
+
"train sample: {'question_title': 'Чи може батько або мати позбавити прав бабусі чи дідуся дитини, якщо вони…?', 'question_body': '…були особами, які опікувалися дитиною відсутність батьків?', 'label': 'simejne_pravo'}\n",
|
| 237 |
+
"test sample: {'question_title': 'Підскажіть будь -ласка, чи враховує виконавча служба чеки в сплату ...?', 'question_body': 'алімент��в ,якщо не вказано в призначені \"аліменти\"?', 'label': 'simejne_pravo'}\n",
|
| 238 |
+
"---\n",
|
| 239 |
+
"pratsevlashtuvvannya questions: 158 train: 142 test: 16\n",
|
| 240 |
+
"train sample: {'question_title': 'Чи є електронні трудові книжки в України чи поки бумажні?', 'question_body': '', 'label': 'pratsevlashtuvvannya'}\n",
|
| 241 |
+
"test sample: {'question_title': 'Чи треба писати заяву про надання відпустки...', 'question_body': '...якщо відпустка згідно з графіком відпусток?', 'label': 'pratsevlashtuvvannya'}\n",
|
| 242 |
+
"---\n",
|
| 243 |
+
"ziemielnie_pravo questions: 63 train: 56 test: 7\n",
|
| 244 |
+
"train sample: {'question_title': 'Як інваліду 3 групи отримати землю під будівництво гаража?', 'question_body': 'Який порядок дій? Чи є пільги?', 'label': 'ziemielnie_pravo'}\n",
|
| 245 |
+
"test sample: {'question_title': 'Чи можна відмовитися від права власності на земельну ділянку та ...?', 'question_body': \"... відповідно від обов'язку сплати земельного податку?\", 'label': 'ziemielnie_pravo'}\n",
|
| 246 |
+
"---\n",
|
| 247 |
+
"intieliektualna_vlasnist questions: 21 train: 18 test: 3\n",
|
| 248 |
+
"train sample: {'question_title': 'Інтелектуальна власність для проєкту', 'question_body': 'Доброго дня! Підкажіть будь-ласка, як покроково оформити інтелектуальну власність на проєкт, чи потрібно відкривати ФОП та які документи потрібні?\\r\\nБуду вдячна за відповідь!', 'label': 'intieliektualna_vlasnist'}\n",
|
| 249 |
+
"test sample: {'question_title': 'Яким чином ФОП може захистити свої інтелектуальні права? Які є процедури…?', 'question_body': '…реєстрації та захисту авторських прав, товарних знаків чи патентів?', 'label': 'intieliektualna_vlasnist'}\n",
|
| 250 |
+
"---\n",
|
| 251 |
+
"pidpriemnicka_dialnist questions: 38 train: 34 test: 4\n",
|
| 252 |
+
"train sample: {'question_title': \"Які товари при торгівлі підлягають обов'язковому обліку?\", 'question_body': '', 'label': 'pidpriemnicka_dialnist'}\n",
|
| 253 |
+
"test sample: {'question_title': 'Хто займається видачею дозволів на будівництво в Україні?', 'question_body': '', 'label': 'pidpriemnicka_dialnist'}\n",
|
| 254 |
+
"---\n",
|
| 255 |
+
"immighratsiia_iemighratsiia questions: 92 train: 82 test: 10\n",
|
| 256 |
+
"train sample: {'question_title': 'Добрий день, чи потрібна довіреність на дитину, якщо вона виїзджає...', 'question_body': 'Добрий день, чи потрібна довіреність на дитину, якщо вона виїзджає з повнолітнєю рідною сестрою?', 'label': 'immighratsiia_iemighratsiia'}\n",
|
| 257 |
+
"test sample: {'question_title': 'За кордон можна їхати по паспорту книжка?', 'question_body': '', 'label': 'immighratsiia_iemighratsiia'}\n",
|
| 258 |
+
"---\n",
|
| 259 |
+
"dovircha_vlastnist questions: 8 train: 7 test: 1\n",
|
| 260 |
+
"train sample: {'question_title': 'Скажіть, будь-ласка, якщо ми обидва з колишнім чоловіком знаходимось ...?', 'question_body': '... закордоном і нам треба поділити майно після розлучення, як це можна зробити? Чи можна написати тут заяви, посвідчити у німецького нотаріуса, написати довіреність на інших людей в Україні на створення договору по поділу майна і щоб ці люди підписали договір в Україні на основі заяв, написаних в Німеччині?\\r\\nІ чи можна у нотаріуса німецького написати довіреність на продаж машини в Україні?', 'label': 'dovircha_vlastnist'}\n",
|
| 261 |
+
"test sample: {'question_title': 'Підкажіть, чи можна створити доручення в Україні ( наприклад, на двох ...?', 'question_body': '... мовах), а в Німеччині завірити у нотаріуса? Чи буде вона безумовно чинною в Україні?', 'label': 'dovircha_vlastnist'}\n",
|
| 262 |
+
"---\n",
|
| 263 |
+
"reyestraciya_likvidaciya_bankrutstvo questions: 69 train: 62 test: 7\n",
|
| 264 |
+
"train sample: {'question_title': 'Чи можна відмовитися від заяви про вихід із товариства?', 'question_body': '', 'label': 'reyestraciya_likvidaciya_bankrutstvo'}\n",
|
| 265 |
+
"test sample: {'question_title': 'Відкрити ФОП з боргами', 'question_body': \"Хочу відкрити ФОП, як з'ясувалось в особистому кабінеті, маю борг з 15-го по 17-й рік по єдиному внеску і єдиному податку. Він з'явився тому, що я не закрив ФОП вчасно. Той борг є дійсним? І чи зможу відкрити ФОП, маючи цей борг?\", 'label': 'reyestraciya_likvidaciya_bankrutstvo'}\n",
|
| 266 |
+
"---\n",
|
| 267 |
+
"administrativnie_pravo questions: 30 train: 27 test: 3\n",
|
| 268 |
+
"train sample: {'question_title': \"Де і як отримати довідку про склад сім'ї?\", 'question_body': '', 'label': 'administrativnie_pravo'}\n",
|
| 269 |
+
"test sample: {'question_title': 'Чи застосовують штрафні санкції за подання уточнюючого розрахунку...', 'question_body': \"...Об'єднаної звітності під час воєнного стану?\", 'label': 'administrativnie_pravo'}\n",
|
| 270 |
+
"---\n",
|
| 271 |
+
"gospodarskie_pravo questions: 37 train: 33 test: 4\n",
|
| 272 |
+
"train sample: {'question_title': 'На цей час перебуваю у відпустці для догляду за дитиною до досягнення ...?', 'question_body': '... нею трирічного віку, яка закінчується 14 травня 2023 року. На роботу не планую виходити. Чи можна звільнитися останнім днем відпустки, якщо це вихідний день? Чи потрібно 15 травня звільнятися, і цей день потрібно відпрацьовувати?', 'label': 'gospodarskie_pravo'}\n",
|
| 273 |
+
"test sample: {'question_title': 'Чи може роботодавець звільнити працівника без попередження, якщо ...?', 'question_body': '...трудовий договір містить умову про працевлаштування на незаконній основі?', 'label': 'gospodarskie_pravo'}\n",
|
| 274 |
+
"---\n",
|
| 275 |
+
"korporativnie_pravo questions: 12 train: 10 test: 2\n",
|
| 276 |
+
"train sample: {'question_title': 'Чи відносяться ПІБ працівників фірми до конфіденційної інформації?', 'question_body': 'Якщо ні, то чи можливо зробити так, щоб відносилися?', 'label': 'korporativnie_pravo'}\n",
|
| 277 |
+
"test sample: {'question_title': 'Що вважається зловживанням корпоративною конфіденційністю?', 'question_body': '', 'label': 'korporativnie_pravo'}\n",
|
| 278 |
+
"---\n",
|
| 279 |
+
"spadkove_pravo questions: 66 train: 59 test: 7\n",
|
| 280 |
+
"train sample: {'question_title': 'Як поновити строк для прийняття спадщини?', 'question_body': '', 'label': 'spadkove_pravo'}\n",
|
| 281 |
+
"test sample: {'question_title': 'Чи можливо переоформити на себе особові рахункі комунальних послуг…?', 'question_body': '…приватного будинку, після смерті матері та якщо нотаріус ще не видав свідотство про право на спадщину?', 'label': 'spadkove_pravo'}\n",
|
| 282 |
+
"---\n",
|
| 283 |
+
"medicina questions: 60 train: 54 test: 6\n",
|
| 284 |
+
"train sample: {'question_title': 'Доброго дня! Потребую вашоі допомоги в такому питанні:\\nЯк мо...', 'question_body': 'Доброго дня! Потребую вашоі допомоги в такому питанні:\\nЯк можна отримати стац.лікування у випадку, коли сімейний лікар з приватноі клініки?', 'label': 'medicina'}\n",
|
| 285 |
+
"test sample: {'question_title': 'Чи можна зняти 3 гр. інвалідності?', 'question_body': 'Мій хлопець має 3 групу інвалідності. Хоче піти працювати в поліцію, але з інвалідністю кажуть, що не беруть. Чи можна зняти його з обліку інвалідності?', 'label': 'medicina'}\n",
|
| 286 |
+
"---\n",
|
| 287 |
+
"litsienzuvannia questions: 8 train: 7 test: 1\n",
|
| 288 |
+
"train sample: {'question_title': 'Як перевірити ліцензію на продаж алкоголю?', 'question_body': '', 'label': 'litsienzuvannia'}\n",
|
| 289 |
+
"test sample: {'question_title': 'Чи є наразі вимоги до отримання ліцензії для виробництва медичного канабісу', 'question_body': 'Добрий день, скажіть, будь ласка, чи є наразі вимоги до отримання ліцензії для вирощування, виробництва, реалізації тощо медичного канабісу?', 'label': 'litsienzuvannia'}\n",
|
| 290 |
+
"---\n",
|
| 291 |
+
"notarialni_pytanniia questions: 17 train: 15 test: 2\n",
|
| 292 |
+
"train sample: {'question_title': 'Довіреність за кордоном', 'question_body': 'Чи підходить для договору купівлі-продажу в Україні довіреність, яку власник зробить в Німеччині не через консульство, а через нотаріуса, тобто нотаріус засвідчить підпис власника на довіреності?', 'label': 'notarialni_pytanniia'}\n",
|
| 293 |
+
"test sample: {'question_title': 'Як за кордоном зробити довіреність для використання в Україні?', 'question_body': '', 'label': 'notarialni_pytanniia'}\n",
|
| 294 |
+
"---\n",
|
| 295 |
+
"gromadianski_pravovidnosini questions: 27 train: 24 test: 3\n",
|
| 296 |
+
"train sample: {'question_title': 'Як боротись зі свавіллям комунальних служб?', 'question_body': 'Я живу в багатоповерховому будинку. Сміттєві баки у нас дуже швидко заповнюються. Комунальні служби приїжджають забирати сміття раз на 1 місяць, на той момент у нас біля смітника уже сміттєзвалище. Як нам діяти?', 'label': 'gromadianski_pravovidnosini'}\n",
|
| 297 |
+
"test sample: {'question_title': 'Що таке система БПД?', 'question_body': '', 'label': 'gromadianski_pravovidnosini'}\n",
|
| 298 |
+
"---\n",
|
| 299 |
+
"mytne_pravo questions: 3 train: 2 test: 1\n",
|
| 300 |
+
"train sample: {'question_title': 'Чи діє зараз митне оподаткування зарядних станцій типу Ecoflow?', 'question_body': '...при замовленні із за кордону?', 'label': 'mytne_pravo'}\n",
|
| 301 |
+
"test sample: {'question_title': 'Де можна знайти адреси митниць?', 'question_body': 'Де можна знайти адреси митниць?', 'label': 'mytne_pravo'}\n",
|
| 302 |
+
"---\n",
|
| 303 |
+
"dierzhavni_zakupivli questions: 2 train: 1 test: 1\n",
|
| 304 |
+
"train sample: {'question_title': 'Які документи потрібні для прийняття участі в Прозорро.Продажі?', 'question_body': 'У мене є ТОВ і ФОП', 'label': 'dierzhavni_zakupivli'}\n",
|
| 305 |
+
"test sample: {'question_title': 'Яким чином ФОП може стати постачальником або підрядником для…?', 'question_body': '…державних закупівель? Які є правила та обмеження для участі ФОП в державних тендерах?', 'label': 'dierzhavni_zakupivli'}\n",
|
| 306 |
+
"---\n",
|
| 307 |
+
"strakhuvannya questions: 2 train: 1 test: 1\n",
|
| 308 |
+
"train sample: {'question_title': 'До кого звертатися працівнику мнс у разі настання страхового випадку?', 'question_body': 'В пфу відповіли, що такими питаннями займається мнс', 'label': 'strakhuvannya'}\n",
|
| 309 |
+
"test sample: {'question_title': 'Тато помер від хвороби, і в приват банку а саме в страховій компанії ...', 'question_body': 'ВУСО застрахував на випадок смерті та хвороб, компанія вимагає лікарський висновок смерті, ( його здали в Рагс на реєстрацію свідоцтва про смерть) і сказали що платити не будуть без цього висновку вони вчиняють правомірно?', 'label': 'strakhuvannya'}\n",
|
| 310 |
+
"---\n",
|
| 311 |
+
"vighotovliennia_produktsiyi_ta_nadannia_poslugh questions: 5 train: 4 test: 1\n",
|
| 312 |
+
"train sample: {'question_title': 'Працюю в салоні масажистом. По документах маю свою діяльність господарчу.', 'question_body': 'Отримую процент, про який домовилися з власницею,виставляючи для неї фактуру на суму, яку заробила. Зараз вона просить, щоб я купила свою касу і свої масажі набивала на ній, бо вона має дуже великий ЗУС через те, що ми обидві набиваємо чеки на одній її касі. А той процент, який вона мала від мене, вона виставлятиме мені фактурою і я їй платитиму. \\r\\nЯкий варіант для мене кращий?\\r\\n Якщо купляти касу, є якісь пільги для осіб зі статусом укр?\\r\\n Який процент повернуть мені за покупку каси?', 'label': 'vighotovliennia_produktsiyi_ta_nadannia_poslugh'}\n",
|
| 313 |
+
"test sample: {'question_title': 'Яким чином можна здійснювати міжнародну підприємницьку діяльність як ФОП?', 'question_body': 'Які є правові аспекти міжнародних контрактів та торгівлі?', 'label': 'vighotovliennia_produktsiyi_ta_nadannia_poslugh'}\n",
|
| 314 |
+
"---\n",
|
| 315 |
+
"mizhnarodni_pravovidnosini questions: 11 train: 9 test: 2\n",
|
| 316 |
+
"train sample: {'question_title': 'Чи ратифікований Україною Римський статут?', 'question_body': '', 'label': 'mizhnarodni_pravovidnosini'}\n",
|
| 317 |
+
"test sample: {'question_title': 'Чи можливо зараз отримати громадянство України з документами рф?', 'question_body': 'Доброго дня. Виникло таке питання, не знаю куди звертатись. Я знаходжусь в окупації, але у мене на цей момент нема паспорта РФ, але я там народилась, маю загран і свідоцтво о народженні РФ. Переїхала сюди більше ніж 17 років тому, маю посвідку на постійне місце життя (України), ІНН, дипломи, все Українське. На цей час, я думаю про можливість переїхати в Україну, але щоб там жити треба мати громадянство. Чи зараз можливо його змінити з такою ситуацією як у мене?', 'label': 'mizhnarodni_pravovidnosini'}\n",
|
| 318 |
+
"---\n",
|
| 319 |
+
"investitsii questions: 5 train: 4 test: 1\n",
|
| 320 |
+
"train sample: {'question_title': 'Хто і на яких умовах може інвестувати в сільськогосподарську землю в...?', 'question_body': '...Україні?', 'label': 'investitsii'}\n",
|
| 321 |
+
"test sample: {'question_title': 'Що із себе представляють механізми squeeze-out та sell-out?', 'question_body': '', 'label': 'investitsii'}\n",
|
| 322 |
+
"---\n",
|
| 323 |
+
"ekologiya questions: 3 train: 2 test: 1\n",
|
| 324 |
+
"train sample: {'question_title': 'Чи мало право СФГ розпахувати і засівати пересохше русло річки?', 'question_body': '', 'label': 'ekologiya'}\n",
|
| 325 |
+
"test sample: {'question_title': 'Які юридичні механізми існують для захисту фермерів від ризику ...?', 'question_body': '...погіршення якості ґрунту або води в результаті застосування пестицидів та інших агрохімікатів?', 'label': 'ekologiya'}\n",
|
| 326 |
+
"---\n",
|
| 327 |
+
"reklama questions: 2 train: 1 test: 1\n",
|
| 328 |
+
"train sample: {'question_title': 'Що зміниться з новим законом про рекламу?', 'question_body': '', 'label': 'reklama'}\n",
|
| 329 |
+
"test sample: {'question_title': 'Чи відноситься заборона реклами сигарет до сайтів і сторінок в інтернеті?', 'question_body': '', 'label': 'reklama'}\n",
|
| 330 |
+
"---\n"
|
| 331 |
+
]
|
| 332 |
+
}
|
| 333 |
+
]
|
| 334 |
+
},
|
| 335 |
+
{
|
| 336 |
+
"cell_type": "code",
|
| 337 |
+
"source": [
|
| 338 |
+
"len(train_all), len(test_all), len(train_all) + len(test_all)"
|
| 339 |
+
],
|
| 340 |
+
"metadata": {
|
| 341 |
+
"colab": {
|
| 342 |
+
"base_uri": "https://localhost:8080/"
|
| 343 |
+
},
|
| 344 |
+
"id": "LBoFAODdbB1c",
|
| 345 |
+
"outputId": "bb343832-6059-45f1-aa8e-4c3a36049cf8"
|
| 346 |
+
},
|
| 347 |
+
"execution_count": 20,
|
| 348 |
+
"outputs": [
|
| 349 |
+
{
|
| 350 |
+
"output_type": "execute_result",
|
| 351 |
+
"data": {
|
| 352 |
+
"text/plain": [
|
| 353 |
+
"(2905, 341, 3246)"
|
| 354 |
+
]
|
| 355 |
+
},
|
| 356 |
+
"metadata": {},
|
| 357 |
+
"execution_count": 20
|
| 358 |
+
}
|
| 359 |
+
]
|
| 360 |
+
},
|
| 361 |
+
{
|
| 362 |
+
"cell_type": "code",
|
| 363 |
+
"source": [
|
| 364 |
+
"with open('test.jsonl', 'w') as f:\n",
|
| 365 |
+
" for row in test_all:\n",
|
| 366 |
+
" f.write(json.dumps(row) + '\\n')\n",
|
| 367 |
+
"\n",
|
| 368 |
+
"with open('train.jsonl', 'w') as f:\n",
|
| 369 |
+
" for row in train_all:\n",
|
| 370 |
+
" f.write(json.dumps(row) + '\\n')"
|
| 371 |
+
],
|
| 372 |
+
"metadata": {
|
| 373 |
+
"id": "uX1s3XTtZ6Kj"
|
| 374 |
+
},
|
| 375 |
+
"execution_count": 24,
|
| 376 |
+
"outputs": []
|
| 377 |
+
},
|
| 378 |
+
{
|
| 379 |
+
"cell_type": "code",
|
| 380 |
+
"source": [
|
| 381 |
+
"! wc -l test.jsonl\n",
|
| 382 |
+
"\n",
|
| 383 |
+
"! wc -l train.jsonl"
|
| 384 |
+
],
|
| 385 |
+
"metadata": {
|
| 386 |
+
"colab": {
|
| 387 |
+
"base_uri": "https://localhost:8080/"
|
| 388 |
+
},
|
| 389 |
+
"id": "rpAmy9nrbaSz",
|
| 390 |
+
"outputId": "5ca46d35-9060-4fd4-f31f-8110eb42ca79"
|
| 391 |
+
},
|
| 392 |
+
"execution_count": 25,
|
| 393 |
+
"outputs": [
|
| 394 |
+
{
|
| 395 |
+
"output_type": "stream",
|
| 396 |
+
"name": "stdout",
|
| 397 |
+
"text": [
|
| 398 |
+
"341 test.jsonl\n",
|
| 399 |
+
"2905 train.jsonl\n"
|
| 400 |
+
]
|
| 401 |
+
}
|
| 402 |
+
]
|
| 403 |
+
}
|
| 404 |
+
]
|
| 405 |
+
}
|