You need to agree to share your contact information to access this model

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

RZTKSentenceTransformer based on yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-multiple-datasets-large-4-1

This is a sentence-transformers model finetuned from yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-multiple-datasets-large-4-1 on the core_uk dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-multiple-datasets-large-4-1
Maximum Sequence Length: 512 tokens
Output Dimensionality: 768 dimensions
Similarity Function: Dot Product
Training Dataset:
- core_uk

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

RZTKSentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-negatives-multiple-datasets-large-6")
# Run inference
sentences = [
    'query: кабель питания для моника',
    "passage: Кабель живлення для комп'ютера, монітора (С13-CEE 7/7), 5 метрів Кабелі та адаптери Gembird Країна-виробник товару Китай",
    "passage: Клавіатура бездротова Logitech K270 (920-003757) Клавіатури Logitech Гарантія 36 місяців Тип упаковки BOX Інтерфейс Радіо адаптер (Wi-Fi) Колір Чорний Тип клавіатури Мембранні Сумісність з ОС Microsoft Windows Кількість вантажних місць 1 Країна реєстрації бренда Швейцарія Країна-виробник товару Китай Під'єднання Бездротове Колір літер кирилиці Білий Мовна розмітка Російська Мовна розмітка Англійська Форма Повнорозмірна Кнопки Класичні Тип гарантійного талона Гарантійний талон магазина Можливість доставки Почтомати Вид клавіатури Стандартна Доставка Premium Доставка Доставка в магазини ROZETKA",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Datasets: test-core-uk--matryoshka_dim-768--, test-core-ru--matryoshka_dim-768--, typos-uk--matryoshka_dim-768--, typos-ru--matryoshka_dim-768--, transliterations-uk--matryoshka_dim-768--, transliterations-ru--matryoshka_dim-768--, options-uk--matryoshka_dim-768--, options-ru--matryoshka_dim-768--, rusisms-uk--matryoshka_dim-768--, rusisms-ru--matryoshka_dim-768--, jargonisms-uk--matryoshka_dim-768--, jargonisms-ru--matryoshka_dim-768--, vespa-uk--matryoshka_dim-768-- and vespa-ru--matryoshka_dim-768--

Evaluated with InformationRetrievalEvaluator with these parameters:

{
    "truncate_dim": 768,
    "query_prompt_name": "query",
    "corpus_prompt_name": "text"
}

Metric	test-core-uk--matryoshka_dim-768--	test-core-ru--matryoshka_dim-768--	typos-uk--matryoshka_dim-768--	typos-ru--matryoshka_dim-768--	transliterations-uk--matryoshka_dim-768--	transliterations-ru--matryoshka_dim-768--	options-uk--matryoshka_dim-768--	options-ru--matryoshka_dim-768--	rusisms-uk--matryoshka_dim-768--	rusisms-ru--matryoshka_dim-768--	jargonisms-uk--matryoshka_dim-768--	jargonisms-ru--matryoshka_dim-768--	vespa-uk--matryoshka_dim-768--	vespa-ru--matryoshka_dim-768--
dot_accuracy@10	0.975	0.9698	0.9433	0.933	0.7701	0.7383	0.9927	0.9927	0.989	0.978	0.9744	0.9487	0.8764	0.8652
dot_precision@10	0.3885	0.3829	0.3627	0.3528	0.1632	0.1549	0.3296	0.3223	0.7011	0.6989	0.6154	0.6051	0.6517	0.6382
dot_recall@10	0.4559	0.4495	0.4223	0.4101	0.3344	0.3203	0.4701	0.4613	0.3543	0.351	0.4103	0.3908	0.197	0.1854
dot_ndcg@10	0.5674	0.5526	0.5212	0.5008	0.3993	0.3764	0.5557	0.5455	0.8053	0.7967	0.7472	0.7293	0.7261	0.7072
dot_mrr@10	0.8658	0.8389	0.8093	0.7779	0.6667	0.6256	0.8683	0.8619	0.9692	0.946	0.9	0.8923	0.8401	0.8293
dot_map@60	0.4013	0.3898	0.3641	0.3484	0.2981	0.2801	0.3985	0.3903	0.4503	0.4453	0.4329	0.4188	0.5003	0.4804

Training Details

Training Dataset

core_uk

Dataset: core_uk
Size: 2,308,581 training samples
Columns: query, text, text_negative_1, text_negative_4, and text_negative_7

Approximate statistics based on the first 1000 samples:

	query	text	text_negative_1	text_negative_4	text_negative_7
type	string	string	string	string	string
details	min: 6 tokens mean: 12.46 tokens max: 24 tokens	min: 21 tokens mean: 131.69 tokens max: 512 tokens	min: 13 tokens mean: 68.29 tokens max: 512 tokens	min: 13 tokens mean: 70.71 tokens max: 498 tokens	min: 17 tokens mean: 71.76 tokens max: 441 tokens

Samples:

query	text	text_negative_1	text_negative_4	text_negative_7
`query: бутылочки авент`	passage: Пляшка для годування Philips Avent Natural 330 мл (SCF036/17) (8710103876427) Пляшечки Philips AVENT Стать дитини Дівчинка Стать дитини Хлопчик Тип Пляшечки Матеріал пляшечки Поліпропілен Матеріал соски Силікон Шийка Широке Потік соски Швидкий Особливості Захисний ковпачок Колір Прозорий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Країна-виробник товару Нідерланди Дитячий вік 7 місяців Дитячий вік 10 місяців Дитячий вік 9 місяців Дитячий вік 8 місяців Дитячий вік 1 рік Дитячий вік 6 місяців Дитячий вік 11 місяців Тип гарантійного талона Гарантія по чеку Можливість доставки Почтомати Доставка Доставка в магазини ROZETKA	`passage: Дитячі пляшечки Philips AVENT Anti-Colic 260 мл 3шт Дитячий посуд Philips Гарантія 14 днів Тип Набори Об'єм, мл 260`	`passage: Пустушка для дівчаток Avent Classic 2шт 6+ SCF169/38 Соски для пляшечок Philips AVENT Матеріал Силікон Форма Ортодонтична`	`passage: Бутылочка для кормления Philips AVENT Anti-Colic 330 мл 1 шт (SCF816/17) Поїльники та непроливайки Philips AVENT EAN 8710103868712 Країна-виробник товару Велика Британія Об'єм, мл 330 Матеріал Силікон Матеріал Пластик Колір Прозорий`
`query: philips настольные лампы`	passage: Настільна лампа PHILIPS ECOMOODS 43211/11/16 Настільні лампи Philips Гарантія 12 місяців Стиль Хай-тек Тип використовуваної лампи Енергозберігаючі (КЛЛ) Тип цоколя Е14 (Міньйон) Тип кріплення На поверхню Тип вимикача Кнопковий (на дроті) Матеріал основи Метал Матеріал плафона Скло Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Країна-виробник товару Китай Тип Декоративні Тип гарантійного талона Гарантійний талон магазина Кількість джерел світла 1 Потужність, Вт 12 Вт Доставка Premium	`passage: Настільна лампа Philips Hue Bloom Color Bluetooth 2000K-6500K White (929002375901) Нічники Philips Джерело живлення Від розетки Матеріал корпусу Метал Матеріал корпусу Пластик Колір корпусу Білий Тип використовуваної лампи Світлодіодні (LED) Світловий потік, Лм (LED) 120`	`passage: Настольная лампа Philips Hue Bloom, Color, BT, DIM, біла (929002375901) Аксесуари для корпусів ПК і ноутбуків Philips Гарантія 24 місяці Колір White Країна-виробник товару Китай`	passage: Настільна лампа Philips Hue Bloom 2000K-6500K Color Bluetooth біла (929002375901) Розумне освітлення Philips Гарантія 24 місяці офіційної гарантії від виробника EAN 8718699770983 Країна реєстрації бренда Нідерланди Країна-виробник товару Польща Тип Розумний світильник Температура світіння 2000-6500 K Колір Білий Напруга 220 В Потужність 7 Вт
`query: биотуалеты`	`passage: Рідина Thetford B-Fresh Blue 2 л для нижнього баку біотуалету (8710315017595) Біотуалети й аксесуари Thetford Гарантія 14 днів EAN 8710315017595 Тип Дезінфікувальна рідина Країна реєстрації бренда Нідерланди Країна-виробник товару Китай Країна-виробник товару Нідерланди Готовий до відправлення`	`passage: Відро біотуалет Горизонт 15 літрів Відра Горизонт Країна реєстрації бренда Україна Країна-виробник товару Україна Матеріал Поліпропілен Колір Бежевий`	`passage: Біотуалет BRS 94 (BRS-94) Товари для реабілітації та гігієни BRS Гарантія 12 місяців Країна-виробник товару Китай`	passage: Біодеструктор з бактеріями БТУ-Центр Унікал-С для вуличних туалетів, септиків, вигрібних ям Засоби для вигрібних ям та септиків Жива Земля Клас засобу Екологічні Країна-виробник товару Україна Призначення Для вигрібних ям Призначення Для септиків Тип засобу Деструктор

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

Evaluation Datasets

core_uk

Dataset: core_uk
Size: 3,180 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 10.66 tokens
max: 16 tokens

min: 18 tokens
mean: 115.86 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 10.66 tokens max: 16 tokens	min: 18 tokens mean: 115.86 tokens max: 512 tokens

Samples:

query	text
`query: лампочка е27`	passage: Світлодіодна лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Світлодіодні лампи (LED) OSRAM Гарантія 36 місяців Виробник світлодіодів Osram Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Теплий білий Колір світіння / Температура кольорів RGB (різнокольоровий) Світловий потік 806 Лм Еквівалент потужності лампи розжарювання 60 Вт Робоча напруга, в 230 Форма колби Стандартна (груша) Колір колби Матовий Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Кількість предметів, шт 1 Країна-виробник товару Китай Особливості З регулюванням яскравості (димер) Особливості З дистанційним управлінням Строк служби лампи, год 25000 Тип гарантійного талона Гарантія по чеку Потужність, Вт 9 Можливість доставки Почтомати Доставка Premium Доставка Готовий до відправлення Доставка Доставка в магазини ROZETKA
`query: лампочка е27`	passage: Світлодіодна лампа Philips Ecohome LED Bulb 11 W E27 3000 K 1PF/20RCA (929002299567R) 2 шт. Світлодіодні лампи (LED) Philips Гарантія 24 місяці Тип цоколя E27 Колір світіння / Температура кольорів 3000К Колір світіння / Температура кольорів Теплий Світловий потік 1150 Лм Еквівалент потужності лампи розжарювання 95 Вт Робоча напруга, в 170-240 Форма колби Стандартна (груша) Колір колби Білий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Кількість предметів, шт 2 Країна-виробник товару Китай Строк служби лампи, год 6000 Тип гарантійного талона Гарантійний талон магазина Потужність, Вт 11 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Матеріал колби Пластик Доставка Premium Доставка Доставка в магазини ROZETKA
`query: лампочка е27`	passage: Набір світлодіодних ламп Євросвітло 12 W 4200 K Е27 (56702) 4 шт Світлодіодні лампи (LED) Євросвітло Гарантія 12 місяців Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Нейтральний-білий Колір світіння / Температура кольорів 4200К Світловий потік 1200 Лм Еквівалент потужності лампи розжарювання 120 Вт Робоча напруга, в 220-240 Форма колби Стандартна (груша) Кількість вантажних місць 1 Країна реєстрації бренда Україна Кількість предметів, шт 4 Країна-виробник товару Китай Строк служби лампи, год 15000 Тип гарантійного талона Гарантія по чеку Потужність, Вт 12 Застосування Побутові Призначення Для стельових світильників Призначення Для настільної лампи Призначення Для люстри Матеріал колби Пластик Доставка Доставка в магазини ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

core_ru

Dataset: core_ru
Size: 3,214 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 10.67 tokens
max: 16 tokens

min: 16 tokens
mean: 109.19 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 10.67 tokens max: 16 tokens	min: 16 tokens mean: 109.19 tokens max: 512 tokens

Samples:

query	text
`query: лампочка е27`	passage: Светодиодная лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Светодиодные лампы (LED) OSRAM Гарантия 36 месяцев Производитель светодиодов Osram Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Теплый белый Цвет свечения / Цветовая температура RGB (разноцветный) Световой поток 806 Лм Эквивалент мощности лампы накаливания 60 Вт Рабочее напряжение, В 230 Форма колбы Стандартная (груша) Цвет колбы Матовый Количество грузовых мест 1 Страна регистрации бренда Германия Количество предметов, шт 1 Страна-производитель товара Китай Особенности С регулировкой яркости (диммер) Особенности С дистанционным управлением Срок службы лампы, ч 25000 Тип гарантийного талона Гарантия по чеку Мощность, Вт 9 Возможность доставки Почтоматы Доставка Premium Доставка Готов к отправке Доставка Доставка в магазины ROZETKA
`query: лампочка е27`	passage: Светодиодная лампа Philips Ecohome LED Bulb 11W E27 3000К 1PF/20RCA (929002299567R) 2 шт. Светодиодные лампы (LED) Philips Гарантия 24 месяца Тип цоколя E27 Цвет свечения / Цветовая температура 3000К Цвет свечения / Цветовая температура Теплый Световой поток 1150 Лм Эквивалент мощности лампы накаливания 95 Вт Рабочее напряжение, В 170-240 Форма колбы Стандартная (груша) Цвет колбы Белый Количество грузовых мест 1 Страна регистрации бренда Нидерланды Количество предметов, шт 2 Страна-производитель товара Китай Срок службы лампы, ч 6000 Тип гарантийного талона Гарантийный талон магазина Мощность, Вт 11 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Материал колбы Пластик Доставка Premium Доставка Доставка в магазины ROZETKA
`query: лампочка е27`	passage: Набор светодиодных ламп Євросвітло 12W 4200к Е27 (56702) 4 шт Светодиодные лампы (LED) Євросвітло Гарантия 12 месяцев Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Нейтральный-белый Цвет свечения / Цветовая температура 4200К Световой поток 1200 Лм Эквивалент мощности лампы накаливания 120 Вт Рабочее напряжение, В 220-240 Форма колбы Стандартная (груша) Количество грузовых мест 1 Страна регистрации бренда Украина Количество предметов, шт 4 Страна-производитель товара Китай Срок службы лампы, ч 15000 Тип гарантийного талона Гарантия по чеку Мощность, Вт 12 Применение Бытовые Назначение Для потолочных светильников Назначение Для настольной лампы Назначение Для люстры Материал колбы Пластик Доставка Доставка в магазины ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

typos_uk

Dataset: typos_uk
Size: 3,180 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 11.58 tokens
max: 17 tokens

min: 18 tokens
mean: 115.86 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 11.58 tokens max: 17 tokens	min: 18 tokens mean: 115.86 tokens max: 512 tokens

Samples:

query	text
`query: лампочка е7`	passage: Світлодіодна лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Світлодіодні лампи (LED) OSRAM Гарантія 36 місяців Виробник світлодіодів Osram Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Теплий білий Колір світіння / Температура кольорів RGB (різнокольоровий) Світловий потік 806 Лм Еквівалент потужності лампи розжарювання 60 Вт Робоча напруга, в 230 Форма колби Стандартна (груша) Колір колби Матовий Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Кількість предметів, шт 1 Країна-виробник товару Китай Особливості З регулюванням яскравості (димер) Особливості З дистанційним управлінням Строк служби лампи, год 25000 Тип гарантійного талона Гарантія по чеку Потужність, Вт 9 Можливість доставки Почтомати Доставка Premium Доставка Готовий до відправлення Доставка Доставка в магазини ROZETKA
`query: лампочка е7`	passage: Світлодіодна лампа Philips Ecohome LED Bulb 11 W E27 3000 K 1PF/20RCA (929002299567R) 2 шт. Світлодіодні лампи (LED) Philips Гарантія 24 місяці Тип цоколя E27 Колір світіння / Температура кольорів 3000К Колір світіння / Температура кольорів Теплий Світловий потік 1150 Лм Еквівалент потужності лампи розжарювання 95 Вт Робоча напруга, в 170-240 Форма колби Стандартна (груша) Колір колби Білий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Кількість предметів, шт 2 Країна-виробник товару Китай Строк служби лампи, год 6000 Тип гарантійного талона Гарантійний талон магазина Потужність, Вт 11 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Матеріал колби Пластик Доставка Premium Доставка Доставка в магазини ROZETKA
`query: лампочка е7`	passage: Набір світлодіодних ламп Євросвітло 12 W 4200 K Е27 (56702) 4 шт Світлодіодні лампи (LED) Євросвітло Гарантія 12 місяців Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Нейтральний-білий Колір світіння / Температура кольорів 4200К Світловий потік 1200 Лм Еквівалент потужності лампи розжарювання 120 Вт Робоча напруга, в 220-240 Форма колби Стандартна (груша) Кількість вантажних місць 1 Країна реєстрації бренда Україна Кількість предметів, шт 4 Країна-виробник товару Китай Строк служби лампи, год 15000 Тип гарантійного талона Гарантія по чеку Потужність, Вт 12 Застосування Побутові Призначення Для стельових світильників Призначення Для настільної лампи Призначення Для люстри Матеріал колби Пластик Доставка Доставка в магазини ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

typos_ru

Dataset: typos_ru
Size: 3,214 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 11.58 tokens
max: 17 tokens

min: 16 tokens
mean: 109.19 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 11.58 tokens max: 17 tokens	min: 16 tokens mean: 109.19 tokens max: 512 tokens

Samples:

query	text
`query: лампочка е7`	passage: Светодиодная лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Светодиодные лампы (LED) OSRAM Гарантия 36 месяцев Производитель светодиодов Osram Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Теплый белый Цвет свечения / Цветовая температура RGB (разноцветный) Световой поток 806 Лм Эквивалент мощности лампы накаливания 60 Вт Рабочее напряжение, В 230 Форма колбы Стандартная (груша) Цвет колбы Матовый Количество грузовых мест 1 Страна регистрации бренда Германия Количество предметов, шт 1 Страна-производитель товара Китай Особенности С регулировкой яркости (диммер) Особенности С дистанционным управлением Срок службы лампы, ч 25000 Тип гарантийного талона Гарантия по чеку Мощность, Вт 9 Возможность доставки Почтоматы Доставка Premium Доставка Готов к отправке Доставка Доставка в магазины ROZETKA
`query: лампочка е7`	passage: Светодиодная лампа Philips Ecohome LED Bulb 11W E27 3000К 1PF/20RCA (929002299567R) 2 шт. Светодиодные лампы (LED) Philips Гарантия 24 месяца Тип цоколя E27 Цвет свечения / Цветовая температура 3000К Цвет свечения / Цветовая температура Теплый Световой поток 1150 Лм Эквивалент мощности лампы накаливания 95 Вт Рабочее напряжение, В 170-240 Форма колбы Стандартная (груша) Цвет колбы Белый Количество грузовых мест 1 Страна регистрации бренда Нидерланды Количество предметов, шт 2 Страна-производитель товара Китай Срок службы лампы, ч 6000 Тип гарантийного талона Гарантийный талон магазина Мощность, Вт 11 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Материал колбы Пластик Доставка Premium Доставка Доставка в магазины ROZETKA
`query: лампочка е7`	passage: Набор светодиодных ламп Євросвітло 12W 4200к Е27 (56702) 4 шт Светодиодные лампы (LED) Євросвітло Гарантия 12 месяцев Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Нейтральный-белый Цвет свечения / Цветовая температура 4200К Световой поток 1200 Лм Эквивалент мощности лампы накаливания 120 Вт Рабочее напряжение, В 220-240 Форма колбы Стандартная (груша) Количество грузовых мест 1 Страна регистрации бренда Украина Количество предметов, шт 4 Страна-производитель товара Китай Срок службы лампы, ч 15000 Тип гарантийного талона Гарантия по чеку Мощность, Вт 12 Применение Бытовые Назначение Для потолочных светильников Назначение Для настольной лампы Назначение Для люстры Материал колбы Пластик Доставка Доставка в магазины ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

transliterations_uk

Dataset: transliterations_uk
Size: 12,831 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 10.36 tokens
max: 56 tokens

min: 26 tokens
mean: 105.64 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 10.36 tokens max: 56 tokens	min: 26 tokens mean: 105.64 tokens max: 512 tokens

Samples:

query	text
`query: апиэу`	passage: Зволожувальний лактокрем для обличчя A'pieu Lactobacillus 50 мл (8809643517201) Крем для обличчя A'pieu Клас косметики Мідл-маркет Час застосування Ніч Вік Від 18 Стать Для жінок Кількість вантажних місць 1 Країна реєстрації бренда Республіка Корея (Південна Корея) Кількість предметів, шт 1 Країна-виробник товару Республіка Корея (Південна Корея) Об'єм 50 мл Вид Крем Сфера застосування Обличчя Тип шкіри Суха Тип шкіри Нормальна Призначення Зволожувальне Призначення Відновлююче Доставка Доставка в магазини ROZETKA
`query: апиэу`	passage: Емульсія мінеральна A'pieu Aqua Marine 180 мл (8809530043608) Засіб для вмивання A'pieu Клас косметики Натуральна Вік Від 20 Стать Для жінок Кількість вантажних місць 1 Країна реєстрації бренда Республіка Корея (Південна Корея) Кількість предметів, шт 1 Серія Aqua Marine Країна-виробник товару Республіка Корея (Південна Корея) Об'єм 180 мл Вид Емульсія Дія Очищає Дія Зволожує Дія Тонізує Тип шкіри Для всіх типів Призначення Зволожувальне Тип гарантійного талона Без гарантійного талона Можливість доставки Почтомати Доставка Premium
`query: апиэу`	passage: Крем A'pieu Cicative Кальцій 55 мл (8809581482050) Крем для обличчя A'pieu Клас косметики Натуральна Час застосування Універсально Вік Від 18 Стать Для жінок Кількість вантажних місць 1 Країна реєстрації бренда Республіка Корея (Південна Корея) Кількість предметів, шт 1 Країна-виробник товару Республіка Корея (Південна Корея) Об'єм 55 мл Тип шкіри Для всіх типів Призначення Зволожувальне Тип гарантійного талона Без гарантійного талона Доставка Premium Доставка Доставка в магазини ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

transliterations_ru

Dataset: transliterations_ru
Size: 13,144 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 10.38 tokens
max: 56 tokens

min: 26 tokens
mean: 101.59 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 10.38 tokens max: 56 tokens	min: 26 tokens mean: 101.59 tokens max: 512 tokens

Samples:

query	text
`query: апиэу`	passage: Увлажняющий лакто-крем для лица A'pieu Lactobacillus 50 мл (8809643517201) Крем для лица A'pieu Класс косметики Миддл-маркет Время применения Ночь Возраст От 18 Пол Для женщин Количество грузовых мест 1 Страна регистрации бренда Республика Корея (Южная Корея) Количество предметов, шт 1 Страна-производитель товара Республика Корея (Южная Корея) Объем 50 мл Вид Крем Область применения Лицо Тип кожи Сухая Тип кожи Нормальная Назначение Увлажняющее Назначение Восстанавливающее Доставка Доставка в магазины ROZETKA
`query: апиэу`	`passage: Воздушный хлопковый кушон с матовым финишем. Air-Fit A'pieu Cushion PPOSONG SPF50+/PA+++ 13,5g A'pieu Тональное средство A'pieu Класс косметики Миддл-маркет`
`query: апиэу`	passage: Эмульсия минеральная A'pieu Aqua Marine 180 мл (8809530043608) Средство для умывания A'pieu Класс косметики Натуральная Возраст От 20 Пол Для женщин Количество грузовых мест 1 Страна регистрации бренда Республика Корея (Южная Корея) Количество предметов, шт 1 Серия Aqua Marine Страна-производитель товара Республика Корея (Южная Корея) Объем 180 мл Вид Эмульсия Действие Очищает Действие Увлажняет Действие Тонизирует Тип кожи Для всех типов Назначение Увлажняющее Тип гарантийного талона Без гарантийного талона Возможность доставки Почтоматы Доставка Premium

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

options_uk

Dataset: options_uk
Size: 1,442 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 10.71 tokens
max: 22 tokens

min: 18 tokens
mean: 165.12 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 10.71 tokens max: 22 tokens	min: 18 tokens mean: 165.12 tokens max: 512 tokens

Samples:

query	text
`query: спортивные шорты женские`	passage: Спортивні шорти жіночі Traum 2410-17 M (44-46) Чорні (4820024101721) Жіночі спортивні шорти Traum Сезон Осінній Сезон Літній Сезон Весняний Сезон Демісезонний Кількість вантажних місць 1 Довжина Коротка Країна реєстрації бренда Україна Країна-виробник товару Україна Декор З лампасами Розмір 46 Розмір 44 Стиль Спортивний Колір Чорний Матеріал Трикотаж Тип гарантійного талона Гарантія по чеку Можливість доставки Почтомати Доставка Premium Принт Однотонний Тип шортів Прості шорти Доставка Доставка в магазини ROZETKA
`query: спортивные шорты женские`	passage: Спортивні шорти жіночі ISSA PLUS 11377 S Чорні (issa2000239538884) Жіночі спортивні шорти ISSA PLUS Кількість вантажних місць 1 Країна реєстрації бренда Україна Країна-виробник товару Україна Розмір S Стиль Спортивний Колір Чорний Матеріал Поліестер Матеріал Поліамід Тип гарантійного талона Гарантія по чеку Можливість доставки Почтомати Доставка Premium Принт Однотонний Доставка Доставка в магазини ROZETKA
`query: спортивные шорты женские`	passage: Спортивні шорти жіночі ISSA PLUS 7770 L Чорні (issa2000260293349) Жіночі спортивні шорти ISSA PLUS Кількість вантажних місць 1 Довжина Подовжена Країна реєстрації бренда Україна Країна-виробник товару Україна Розмір L Стиль Спортивний Колір Чорний Матеріал Поліестер Тип гарантійного талона Гарантія по чеку Доставка Premium Принт Напис Тип шортів Прості шорти Доставка Доставка в магазини ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

options_ru

Dataset: options_ru
Size: 1,442 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 8 tokens
mean: 10.71 tokens
max: 22 tokens

min: 23 tokens
mean: 159.8 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 8 tokens mean: 10.71 tokens max: 22 tokens	min: 23 tokens mean: 159.8 tokens max: 512 tokens

Samples:

query	text
`query: спортивные шорты женские`	passage: Спортивные шорты женские Traum 2410-17 M (44-46) Черные (4820024101721) Женские спортивные шорты Traum Сезон Осенний Сезон Летний Сезон Весенний Сезон Демисезонный Количество грузовых мест 1 Длина Короткая Страна регистрации бренда Украина Страна-производитель товара Украина Декор С лампасами Размер 46 Размер 44 Стиль Спортивный Цвет Черный Материал Трикотаж Тип гарантийного талона Гарантия по чеку Возможность доставки Почтоматы Доставка Premium Принт Однотонный Тип шорт Простые шорты Доставка Доставка в магазины ROZETKA
`query: спортивные шорты женские`	passage: Спортивные шорты женские ISSA PLUS 11377 S Черные (issa2000239538884) Женские спортивные шорты ISSA PLUS Количество грузовых мест 1 Страна регистрации бренда Украина Страна-производитель товара Украина Размер S Стиль Спортивный Цвет Черный Материал Полиэстер Материал Полиамид Тип гарантийного талона Гарантия по чеку Возможность доставки Почтоматы Доставка Premium Принт Однотонный Доставка Доставка в магазины ROZETKA
`query: спортивные шорты женские`	passage: Спортивные шорты женские ISSA PLUS 7770 L Черные (issa2000260293349) Женские спортивные шорты ISSA PLUS Количество грузовых мест 1 Длина Удлинённая Страна регистрации бренда Украина Страна-производитель товара Украина Размер L Стиль Спортивный Цвет Черный Материал Полиэстер Тип гарантийного талона Гарантия по чеку Доставка Premium Принт Надпись Тип шорт Простые шорты Доставка Доставка в магазины ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

rusisms_uk

Dataset: rusisms_uk
Size: 1,051 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 9 tokens
mean: 11.14 tokens
max: 15 tokens

min: 18 tokens
mean: 106.49 tokens
max: 352 tokens

	query	text
type	string	string
details	min: 9 tokens mean: 11.14 tokens max: 15 tokens	min: 18 tokens mean: 106.49 tokens max: 352 tokens

Samples:

query	text
`query: блок безперебійного пітанія`	passage: Блок безперебійного живлення LogicPower LPM-525VA-P (лінійно-інтерактивний, plastik case) Джерела безперебійного живлення LogicPower Гарантія 12 місяців Тип архітектури Лінійно-інтерактивні (line-interactive) Форма вихідної напруги Апроксимована (ступінчаста) синусоїда Акумуляторна батарея Вбудована Номінальна потужність 367 Вт Час роботи за повного навантаження, хв 10
`query: блок безперебійного пітанія`	`passage: Блок безперебійного живлення EnerGenie EG-UPS-B650 650VA Джерела безперебійного живлення EnerGenie Гарантія 12 місяців Акумуляторна батарея Вбудована Номінальна потужність 390 Вт Час роботи за повного навантаження, хв 20`
`query: блок безперебійного пітанія`	passage: Блок безперебійного живлення EnerGenie EG-UPS-031 (LCD дисплей, 650VA, Black) Джерела безперебійного живлення EnerGenie Гарантія 12 місяців Тип архітектури Лінійно-інтерактивні (line-interactive) Форма вихідної напруги Апроксимована (ступінчаста) синусоїда Акумуляторна батарея Вбудована Номінальна потужність 390 Вт Особливості З дисплеєм Час роботи за повного навантаження, хв 8 Доставка Доставка в магазини ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

rusisms_ru

Dataset: rusisms_ru
Size: 1,058 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 9 tokens
mean: 11.14 tokens
max: 15 tokens

min: 20 tokens
mean: 103.67 tokens
max: 327 tokens

	query	text
type	string	string
details	min: 9 tokens mean: 11.14 tokens max: 15 tokens	min: 20 tokens mean: 103.67 tokens max: 327 tokens

Samples:

query	text
`query: блок безперебійного пітанія`	passage: Блок безперебійного живлення LogicPower LPM-525VA-P (лінійно-інтерактивний, plastik case) Источники бесперебойного питания LogicPower Гарантия 12 месяцев Тип архитектуры Линейно-интерактивные (line-interactive) Форма выходного напряжения Аппроксимированная (ступенчатая) синусоида Аккумуляторная батарея Встроенная Номинальная мощность 367 Вт Время работы при полной нагрузке, мин 10
`query: блок безперебійного пітанія`	`passage: Блок безперебійного живлення EnerGenie EG-UPS-B650 650VA Источники бесперебойного питания EnerGenie Гарантия 12 месяцев Аккумуляторная батарея Встроенная Номинальная мощность 390 Вт Время работы при полной нагрузке, мин 20`
`query: блок безперебійного пітанія`	passage: Блок безперебійного живлення EnerGenie EG-UPS-031 (LCD дисплей, 650VA, Black) Источники бесперебойного питания EnerGenie Гарантия 12 месяцев Тип архитектуры Линейно-интерактивные (line-interactive) Форма выходного напряжения Аппроксимированная (ступенчатая) синусоида Аккумуляторная батарея Встроенная Номинальная мощность 390 Вт Особенности С дисплеем Время работы при полной нагрузке, мин 8 Доставка Доставка в магазины ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

jargonisms_uk

Dataset: jargonisms_uk
Size: 337 evaluation samples
Columns: query and text
Approximate statistics based on the first 337 samples:
query text
type string string
details
min: 7 tokens
mean: 11.41 tokens
max: 18 tokens

min: 26 tokens
mean: 134.2 tokens
max: 503 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 11.41 tokens max: 18 tokens	min: 26 tokens mean: 134.2 tokens max: 503 tokens

Samples:

query	text
`query: сумка для лептопа`	passage: Сумка для ноутбука 2E 16" Grey (2E-CBN116GR) Сумки, рюкзаки та чохли для ноутбуків 2E Гарантія 14 днів Діагональ ноутбука 15.6"-16" Матеріал Нейлон Колір Grey Тип Сумка Спосіб закриття Змійка Кількість вантажних місць 1 Країна реєстрації бренда Україна Країна-виробник товару Китай Діагональ сумки/рюкзака 15.6" Тип гарантійного талона Гарантія по чеку Можливість доставки Почтомати Особливості Відділення для аксесуарів Доставка Premium
`query: аккумуляторка`	passage: Акумуляторна ланцюгова пила Greenworks G24CS25 (2000007) Акумуляторні пилки Greenworks Гарантія 36 місяців Кількість вантажних місць 1 Країна реєстрації бренда США Країна-виробник товару Китай Для прив'язки тегів Неймовірно тихий Для прив'язки тегів Швидкий запуск Для прив'язки тегів Потужний двигун Довжина шини, мм 250 Особливості Автоматичне змащування ланцюга Особливості Блокування кнопки увімкнення Вага, кг 2.7 Розташування двигуна в пилі Поперечний (бічний) Швидкість обертання ланцюга, м/сек 4.2 Тип гарантійного талона Гарантійний талон магазина Доставка Premium Напруга акумулятора, В 24 Акумулятор у комплекті Ні Доставка Доставка в магазини ROZETKA
`query: аккумуляторка`	passage: Акумуляторна ланцюгова пила Stark BCS-3610 (310100101) Акумуляторні пилки Stark Гарантія 12 місяців Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Країна-виробник товару Китай Довжина шини, мм 250 Особливості Легкий запуск Особливості SDS система Особливості Блокування кнопки увімкнення Особливості Гальмо ланцюга Особливості Автоматичне змащування ланцюга Вага, кг 3.2 Розташування двигуна в пилі Поперечний (бічний) Тип гарантійного талона Гарантійний талон магазина Тип двигуна Безщітковий Акумулятор у комплекті Ні Доставка Доставка в магазини ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

jargonisms_ru

Dataset: jargonisms_ru
Size: 338 evaluation samples
Columns: query and text
Approximate statistics based on the first 338 samples:
query text
type string string
details
min: 7 tokens
mean: 11.42 tokens
max: 18 tokens

min: 27 tokens
mean: 128.95 tokens
max: 468 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 11.42 tokens max: 18 tokens	min: 27 tokens mean: 128.95 tokens max: 468 tokens

Samples:

query	text
`query: сумка для лептопа`	passage: Сумка для ноутбука 2E 16" Grey (2E-CBN116GR) Сумки, рюкзаки и чехлы для ноутбуков 2E Гарантия 14 дней Диагональ ноутбука 15.6"-16" Материал Нейлон Цвет Grey Тип Сумка Способ закрытия Молния Количество грузовых мест 1 Страна регистрации бренда Украина Страна-производитель товара Китай Диагональ сумки/рюкзака 15.6" Тип гарантийного талона Гарантия по чеку Возможность доставки Почтоматы Особенности Отделение для аксессуаров Доставка Premium
`query: аккумуляторка`	passage: Аккумуляторная цепная пила Greenworks G24CS25 (2000007) Аккумуляторные пилы Greenworks Гарантия 36 месяцев Количество грузовых мест 1 Страна регистрации бренда США Страна-производитель товара Китай Для привязки тегов Невероятно тихий Для привязки тегов Быстрый запуск Для привязки тегов Мощный двигатель Длина шины, мм 250 Особенности Автоматическая смазка цепи Особенности Блокировка кнопки включения Вес, кг 2.7 Расположение двигателя в пиле Поперечное (боковое) Скорость вращения цепи, м/сек 4.2 Тип гарантийного талона Гарантийный талон магазина Доставка Premium Напряжение аккумулятора, В 24 Аккумулятор в комплекте Нет Доставка Доставка в магазины ROZETKA
`query: аккумуляторка`	passage: Аккумуляторная цепная пила Stark BCS-3610 (310100101) Аккумуляторные пилы Stark Гарантия 12 месяцев Количество грузовых мест 1 Страна регистрации бренда Германия Страна-производитель товара Китай Длина шины, мм 250 Особенности Легкий запуск Особенности SDS система Особенности Блокировка кнопки включения Особенности Тормоз цепи Особенности Автоматическая смазка цепи Вес, кг 3.2 Расположение двигателя в пиле Поперечное (боковое) Тип гарантийного талона Гарантийный талон магазина Тип двигателя Бесщеточный Аккумулятор в комплекте Нет Доставка Доставка в магазины ROZETKA

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

vespa_uk

Dataset: vespa_uk
Size: 3,902 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 10.11 tokens
max: 22 tokens

min: 15 tokens
mean: 138.17 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 10.11 tokens max: 22 tokens	min: 15 tokens mean: 138.17 tokens max: 512 tokens

Samples:

query	text
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Перехідники для шлангу басейну Intex з 32 мм на 38 мм (IP-175136) Обладнання для басейнів Intex Країна реєстрації бренда США Країна-виробник товару Китай Вид Комплектувальні`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: З'єднання для шланга Peraqua діаметр 32 мм Аксесуари для басейнів Гарантія 12 місяців Вид Інструменти для прибирання басейнів`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: З'єднання для шлангу Peraqua діаметр 32/38 мм Аксесуари для басейнів Гарантія 12 місяців Вид Інструменти для прибирання басейнів`

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

vespa_ru

Dataset: vespa_ru
Size: 3,932 evaluation samples
Columns: query and text
Approximate statistics based on the first 1000 samples:
query text
type string string
details
min: 7 tokens
mean: 10.09 tokens
max: 22 tokens

min: 15 tokens
mean: 133.25 tokens
max: 512 tokens

	query	text
type	string	string
details	min: 7 tokens mean: 10.09 tokens max: 22 tokens	min: 15 tokens mean: 133.25 tokens max: 512 tokens

Samples:

query	text
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Переходники для шланга бассейна Intex с 32 мм на 38 мм (IP-175136) Оборудование для бассейнов Intex Страна регистрации бренда США Страна-производитель товара Китай Вид Комплектующие`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Соединение для шланга Peraqua диаметр 32 мм Аксессуары для бассейнов Гарантия 12 месяцев Вид Инструменты для уборки бассейнов`
`query: шланга диаметром 32 мм для викачки брудної води з басейну`	`passage: Соединение для шланга Peraqua диаметр 32/38 мм Аксессуары для бассейнов Гарантия 12 месяцев Вид Инструменты для уборки бассейнов`

Loss: MatryoshkaLoss with these parameters:

{
    "loss": "RZTKMultipleNegativesRankingLoss",
    "matryoshka_dims": [
        768,
        512,
        256,
        128
    ],
    "matryoshka_weights": [
        1,
        1,
        1,
        1
    ],
    "n_dims_per_step": -1
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: steps
per_device_train_batch_size: 40
per_device_eval_batch_size: 16
warmup_ratio: 0.1
bf16: True
bf16_full_eval: True
tf32: True
dataloader_num_workers: 4
load_best_model_at_end: True
optim: adamw_apex_fused
push_to_hub: True
hub_model_id: yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-negatives-multiple-datasets-large-6
hub_private_repo: True
prompts: {'query': 'query: ', 'text': 'passage: ', 'text_negative_1': 'passage: ', 'text_negative_4': 'passage: ', 'text_negative_7': 'passage: '}
batch_sampler: no_duplicates

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: steps
prediction_loss_only: True
per_device_train_batch_size: 40
per_device_eval_batch_size: 16
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 5e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1.0
num_train_epochs: 3
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.1
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: True
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: True
fp16_full_eval: False
tf32: True
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: True
dataloader_num_workers: 4
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: True
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
tp_size: 0
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_apex_fused
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: True
resume_from_checkpoint: None
hub_model_id: yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-negatives-multiple-datasets-large-6
hub_strategy: every_save
hub_private_repo: True
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
dispatch_batches: None
split_batches: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: {'query': 'query: ', 'text': 'passage: ', 'text_negative_1': 'passage: ', 'text_negative_4': 'passage: ', 'text_negative_7': 'passage: '}
batch_sampler: no_duplicates
multi_dataset_batch_sampler: proportional
ddp_static_graph: False
ddp_comm_hook: bf16
gradient_as_bucket_view: False
num_proc: 20

Training Logs

Click to expand

Epoch	Step	Training Loss	core uk loss	core ru loss	typos uk loss	typos ru loss	transliterations uk loss	transliterations ru loss	options uk loss	options ru loss	rusisms uk loss	rusisms ru loss	jargonisms uk loss	jargonisms ru loss	vespa uk loss	vespa ru loss	test-core-uk--matryoshka_dim-768--_dot_ndcg@10	test-core-ru--matryoshka_dim-768--_dot_ndcg@10	typos-uk--matryoshka_dim-768--_dot_ndcg@10	typos-ru--matryoshka_dim-768--_dot_ndcg@10	transliterations-uk--matryoshka_dim-768--_dot_ndcg@10	transliterations-ru--matryoshka_dim-768--_dot_ndcg@10	options-uk--matryoshka_dim-768--_dot_ndcg@10	options-ru--matryoshka_dim-768--_dot_ndcg@10	rusisms-uk--matryoshka_dim-768--_dot_ndcg@10	rusisms-ru--matryoshka_dim-768--_dot_ndcg@10	jargonisms-uk--matryoshka_dim-768--_dot_ndcg@10	jargonisms-ru--matryoshka_dim-768--_dot_ndcg@10	vespa-uk--matryoshka_dim-768--_dot_ndcg@10	vespa-ru--matryoshka_dim-768--_dot_ndcg@10
0.0150	217	5.9205	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0301	434	5.346	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0451	651	3.6485	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0602	868	2.3598	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0752	1085	2.0758	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.0902	1302	1.9575	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1053	1519	1.8677	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1203	1736	1.7488	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1354	1953	1.6698	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1501	2165	-	0.1304	0.1179	0.3290	0.3246	2.2827	2.1367	0.4085	0.3863	0.3726	0.4914	0.6788	0.6978	0.6338	0.6085	0.5357	0.5434	0.4843	0.4931	0.3555	0.3665	0.5125	0.5188	0.7662	0.7678	0.7236	0.7266	0.7170	0.7156
0.1504	2170	1.6156	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1654	2387	1.5641	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1805	2604	1.5118	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.1955	2821	1.4622	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2106	3038	1.4025	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2256	3255	1.3808	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2406	3472	1.3114	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2557	3689	1.2957	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2707	3906	1.2767	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.2858	4123	1.2726	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3001	4330	-	0.1619	0.1634	0.4290	0.4694	2.9758	2.9528	0.3678	0.4385	0.3899	0.5401	0.7087	0.8732	0.9695	0.9036	0.5393	0.5287	0.4815	0.4658	0.3564	0.3409	0.5308	0.5198	0.7819	0.7701	0.7386	0.7215	0.7018	0.6923
0.3008	4340	1.2148	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3158	4557	1.2025	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3309	4774	1.146	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3459	4991	1.1246	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3610	5208	1.1187	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3760	5425	1.0721	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.3910	5642	1.099	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4061	5859	1.0796	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4211	6076	1.0564	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4362	6293	1.0479	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4502	6495	-	0.1204	0.1348	0.3467	0.4049	2.5516	2.5736	0.2783	0.3576	0.3031	0.4532	0.5105	0.6548	0.7888	0.7194	0.5614	0.5453	0.5069	0.4882	0.3823	0.3646	0.5423	0.5354	0.7967	0.7837	0.7539	0.7252	0.7220	0.7066
0.4512	6510	1.0434	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4662	6727	1.0214	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4813	6944	0.9909	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.4963	7161	0.9904	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5114	7378	1.006	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5264	7595	0.9574	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5414	7812	0.976	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5565	8029	0.967	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5715	8246	0.9502	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.5866	8463	0.9526	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6002	8660	-	0.0990	0.1087	0.2991	0.3470	2.5243	2.5866	0.2539	0.3286	0.2526	0.4340	0.5521	0.6421	0.8084	0.8056	0.5670	0.5542	0.5187	0.5004	0.3843	0.3640	0.5454	0.5370	0.7975	0.7980	0.7551	0.7249	0.7279	0.7106
0.6016	8680	0.9433	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6166	8897	0.9338	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6317	9114	0.9543	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6467	9331	0.9191	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6618	9548	0.9252	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6768	9765	0.9287	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.6918	9982	0.9112	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7069	10199	0.9172	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7219	10416	0.9069	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7370	10633	0.8996	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7503	10825	-	0.1081	0.1225	0.3369	0.4051	2.3706	2.4743	0.2402	0.3087	0.2727	0.4643	0.4996	0.6612	0.8083	0.8333	0.5654	0.5492	0.5140	0.4911	0.3938	0.3715	0.5531	0.5429	0.7991	0.7927	0.7524	0.7253	0.7267	0.7017
0.7520	10850	0.9172	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7671	11067	0.9019	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7821	11284	0.9069	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.7971	11501	0.9035	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8122	11718	0.8893	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8272	11935	0.8702	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8423	12152	0.8806	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8573	12369	0.8562	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8723	12586	0.8948	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.8874	12803	0.8838	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9003	12990	-	0.1044	0.1216	0.3143	0.3960	2.1955	2.3394	0.2562	0.3277	0.2696	0.4621	0.5147	0.6799	0.7805	0.8426	0.5659	0.5496	0.5135	0.4938	0.4023	0.3788	0.5486	0.5394	0.7964	0.7968	0.7440	0.7163	0.7243	0.6977
0.9024	13020	0.8704	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9175	13237	0.872	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9325	13454	0.8822	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9475	13671	0.8613	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9626	13888	0.8707	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9776	14105	0.8261	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
0.9927	14322	0.8444	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0077	14539	0.8772	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0227	14756	0.8122	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0378	14973	0.8632	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0504	15155	-	0.0954	0.1158	0.3016	0.3858	2.4693	2.6294	0.2415	0.3121	0.2802	0.4688	0.5320	0.7210	0.8283	0.8942	0.5672	0.5501	0.5181	0.4966	0.3911	0.3666	0.5557	0.5471	0.7992	0.7954	0.7514	0.7242	0.7311	0.7035
1.0528	15190	0.8543	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0679	15407	0.8297	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0829	15624	0.84	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.0979	15841	0.8637	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1130	16058	0.8457	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1280	16275	0.8446	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1431	16492	0.8398	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1581	16709	0.8382	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1731	16926	0.8423	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.1882	17143	0.8498	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2004	17320	-	0.0948	0.1079	0.2769	0.3506	2.1534	2.2556	0.2264	0.2878	0.2438	0.4366	0.4658	0.6220	0.7512	0.7922	0.5669	0.5551	0.5237	0.5073	0.4043	0.3839	0.5579	0.5502	0.8037	0.7954	0.7508	0.7297	0.7263	0.7148
1.2032	17360	0.8069	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2183	17577	0.8226	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2333	17794	0.8069	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2483	18011	0.8109	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2634	18228	0.8015	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2784	18445	0.8101	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.2935	18662	0.7946	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3085	18879	0.7703	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3235	19096	0.7743	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3386	19313	0.7922	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3505	19485	-	0.1088	0.1303	0.3335	0.4397	2.2940	2.4286	0.2450	0.3218	0.2897	0.4868	0.5206	0.7557	0.8339	0.8847	0.5631	0.5449	0.5155	0.4930	0.3993	0.3756	0.5528	0.5426	0.7923	0.7958	0.7470	0.7130	0.7213	0.7022
1.3536	19530	0.7582	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3687	19747	0.7824	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3837	19964	0.7751	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.3987	20181	0.7753	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4138	20398	0.7755	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4288	20615	0.7596	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4439	20832	0.7782	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4589	21049	0.7705	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4739	21266	0.737	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.4890	21483	0.772	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5006	21650	-	0.0898	0.1041	0.2715	0.3489	2.2544	2.3889	0.2378	0.306	0.238	0.418	0.4653	0.6029	0.7957	0.8442	0.57	0.5573	0.5252	0.5064	0.4007	0.3775	0.554	0.544	0.8047	0.7978	0.7494	0.7284	0.7321	0.7088
1.5040	21700	0.7781	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5191	21917	0.7559	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5341	22134	0.7554	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5491	22351	0.7627	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5642	22568	0.7465	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5792	22785	0.7491	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5943	23002	0.771	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6093	23219	0.7629	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6243	23436	0.763	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6394	23653	0.7753	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6506	23815	-	0.1002	0.1187	0.3136	0.4025	2.3646	2.5155	0.2369	0.3034	0.2685	0.4618	0.5178	0.6905	0.8488	0.9178	0.5657	0.5505	0.5196	0.4959	0.3949	0.3703	0.5523	0.5428	0.8020	0.7930	0.7417	0.7215	0.7264	0.7000
1.6544	23870	0.7435	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6695	24087	0.7876	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6845	24304	0.7521	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.6995	24521	0.7659	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7146	24738	0.7555	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7296	24955	0.7494	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7447	25172	0.7728	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7597	25389	0.7841	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7747	25606	0.7544	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.7898	25823	0.7734	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8007	25980	-	0.0967	0.1151	0.3096	0.4037	2.3758	2.5437	0.2374	0.3055	0.2597	0.4572	0.4964	0.6799	0.8397	0.9184	0.5691	0.5529	0.5205	0.4999	0.3958	0.3709	0.5558	0.5443	0.8003	0.7964	0.7486	0.7263	0.7179	0.6999
1.8048	26040	0.7577	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8199	26257	0.7627	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8349	26474	0.7548	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8499	26691	0.7812	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8650	26908	0.7477	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8800	27125	0.7748	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8951	27342	0.7577	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9101	27559	0.7702	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9251	27776	0.768	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9402	27993	0.7933	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9507	28145	-	0.0960	0.1139	0.3015	0.3930	2.2570	2.4155	0.2309	0.2991	0.2553	0.4541	0.4850	0.6413	0.7937	0.8732	0.5687	0.5535	0.5220	0.4997	0.4007	0.3774	0.5564	0.5470	0.7977	0.7986	0.7471	0.7297	0.7288	0.7064
1.9552	28210	0.7738	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9703	28427	0.7423	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.9853	28644	0.7334	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0003	28861	0.7756	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0154	29078	0.7499	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0304	29295	0.7592	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0455	29512	0.7579	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0605	29729	0.7631	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0755	29946	0.7464	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.0906	30163	0.7734	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1008	30310	-	0.0959	0.1140	0.3040	0.3956	2.3289	2.4776	0.2339	0.3004	0.2575	0.4509	0.5009	0.6702	0.8273	0.8917	0.5680	0.5530	0.5198	0.5008	0.3987	0.3749	0.5571	0.5466	0.8036	0.7976	0.7489	0.7256	0.7324	0.7064
2.1056	30380	0.7775	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1207	30597	0.7553	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1357	30814	0.773	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1507	31031	0.7854	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1658	31248	0.7633	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1808	31465	0.767	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.1959	31682	0.7837	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2109	31899	0.7412	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2259	32116	0.7546	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2410	32333	0.735	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2508	32475	-	0.0987	0.1143	0.3069	0.3948	2.2646	2.4021	0.2313	0.2921	0.2477	0.4388	0.4973	0.6489	0.8018	0.8636	0.5675	0.5533	0.5201	0.5003	0.4005	0.3774	0.5546	0.5483	0.8005	0.7974	0.7486	0.7285	0.7265	0.7057
2.2560	32550	0.7435	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2711	32767	0.7585	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.2861	32984	0.7519	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3012	33201	0.7104	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3162	33418	0.7412	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3312	33635	0.7277	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3463	33852	0.718	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3613	34069	0.7269	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3764	34286	0.6958	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.3914	34503	0.7356	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4009	34640	-	0.0959	0.1109	0.2962	0.3780	2.2012	2.3223	0.2301	0.2882	0.2490	0.4347	0.4783	0.6190	0.7961	0.8536	0.5690	0.5537	0.5223	0.5017	0.4018	0.3797	0.5562	0.5469	0.8039	0.7977	0.7463	0.7280	0.7294	0.7095
2.4064	34720	0.7446	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4215	34937	0.7089	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4365	35154	0.7265	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4516	35371	0.7339	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4666	35588	0.7157	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4816	35805	0.7188	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.4967	36022	0.7332	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.5117	36239	0.732	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.5268	36456	0.7073	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.5418	36673	0.7346	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.5509	36805	-	0.1022	0.1202	0.3151	0.4090	2.3149	2.4589	0.2375	0.3024	0.2626	0.4687	0.5059	0.6712	0.8255	0.8891	0.5658	0.5503	0.5199	0.4977	0.3987	0.3748	0.5550	0.5444	0.8030	0.7974	0.7467	0.7290	0.7241	0.7042
2.5568	36890	0.721	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.5719	37107	0.72	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.5869	37324	0.7248	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6020	37541	0.7352	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6170	37758	0.7316	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6320	37975	0.7549	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6471	38192	0.7304	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6621	38409	0.7306	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6772	38626	0.7478	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.6922	38843	0.7244	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7010	38970	-	0.0973	0.1128	0.2977	0.3832	2.2573	2.3900	0.2331	0.2940	0.2467	0.4409	0.4942	0.6396	0.7976	0.8619	0.5672	0.5539	0.5223	0.5018	0.4000	0.3772	0.5551	0.5465	0.8055	0.7974	0.7468	0.7301	0.7299	0.7088
2.7072	39060	0.7357	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7223	39277	0.7268	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7373	39494	0.7278	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7524	39711	0.7506	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7674	39928	0.7417	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7824	40145	0.7564	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.7975	40362	0.7402	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.8125	40579	0.7436	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.8276	40796	0.723	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.8426	41013	0.7434	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.8511	41135	-	0.0985	0.1147	0.3028	0.3912	2.2800	2.4198	0.2358	0.2989	0.2529	0.4485	0.4964	0.6524	0.8094	0.8745	0.5674	0.5526	0.5212	0.5008	0.3993	0.3764	0.5557	0.5455	0.8053	0.7967	0.7472	0.7293	0.7261	0.7072
2.8576	41230	0.7215	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.8727	41447	0.756	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.8877	41664	0.7596	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9028	41881	0.7495	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9178	42098	0.7524	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9328	42315	0.7742	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9479	42532	0.7631	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9629	42749	0.7598	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9780	42966	0.7057	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
2.9930	43183	0.7481	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-

The bold row denotes the saved checkpoint.

Framework Versions

Python: 3.12.3
Sentence Transformers: 4.0.1
Transformers: 4.50.3
PyTorch: 2.6.0a0+ecf3bae40a.nv25.01
Accelerate: 1.5.2
Datasets: 3.5.0
Tokenizers: 0.21.1

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MatryoshkaLoss

@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning},
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

RZTKMultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

Downloads last month: -

Safetensors

Model size

0.3B params

Tensor type

BF16

Model tree for yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-negatives-multiple-datasets-large-6

Base model

yklymchuk-rztk/multilingual-e5-base-matryoshka2d-mnr-multiple-datasets-large-4-1

Quantized

(2)

this model

Evaluation results

Dot Accuracy@10 on test core uk matryoshka dim 768
self-reported

0.975
Dot Precision@10 on test core uk matryoshka dim 768
self-reported

0.389
Dot Recall@10 on test core uk matryoshka dim 768
self-reported

0.456
Dot Ndcg@10 on test core uk matryoshka dim 768
self-reported

0.567
Dot Mrr@10 on test core uk matryoshka dim 768
self-reported

0.866
Dot Map@60 on test core uk matryoshka dim 768
self-reported

0.401
Dot Accuracy@10 on test core ru matryoshka dim 768
self-reported

0.970
Dot Precision@10 on test core ru matryoshka dim 768
self-reported

0.383
Dot Recall@10 on test core ru matryoshka dim 768
self-reported

0.450
Dot Ndcg@10 on test core ru matryoshka dim 768
self-reported

0.553

View on Papers With Code