test-leaderboard / results.json
averoo's picture
Add results for Sber baseline (open-mistral-nemo)
1b47db9 verified
raw
history blame
2.44 kB
[
{
"model_name": "baseline 2 (open-mistral-nemo)",
"timestamp": "2025-01-15T11:18:54.276115",
"metrics": {
"retrieval": {
"hit_rate": 0.6,
"mrr": 0.5
},
"generation": {
"rouge1": 0.5666666666666667,
"rouge2": 0.0,
"rougeL": 0.5666666666666667
}
},
"config": {
"embedding_model": "sentence-transformers/distiluse-base-multilingual-cased",
"retriever_type": "mmr",
"retrieval_config": {
"top_k": 3
}
},
"metadata": {
"dataset": "rag-news-test"
}
},
{
"model_name": "baseline (open-mistral-nemo)",
"timestamp": "2025-01-15T11:23:48.197770",
"metrics": {
"retrieval": {
"hit_rate": 0.6666666666666666,
"mrr": 0.5
},
"generation": {
"rouge1": 0.6666666666666666,
"rouge2": 0.0,
"rougeL": 0.6666666666666666
}
},
"config": {
"embedding_model": "sentence-transformers/distiluse-base-multilingual-cased",
"retriever_type": "mmr",
"retrieval_config": {
"top_k": 3
}
},
"metadata": {
"dataset": "rag-news-test"
}
},
{
"model_name": "Sber baseline (open-mistral-nemo)",
"timestamp": "2025-01-17T10:12:53.615234",
"metrics": {
"retrieval": {
"hit_rate": 0.6666666666666666,
"mrr": 0.5
},
"generation": {
"rouge1": 0.6666666666666666,
"rougeL": 0.6666666666666666
}
},
"config": {
"embedding_model": "sentence-transformers/distiluse-base-multilingual-cased",
"retriever_type": "mmr",
"retrieval_config": {
"top_k": 3
}
},
"metadata": {
"dataset": "rag-news-test"
}
},
{
"model_name": "Sber baseline (open-mistral-nemo)",
"timestamp": "2025-01-17T10:14:08.324614",
"metrics": {
"retrieval": {
"hit_rate": 0.6666666666666666,
"mrr": 0.5
},
"generation": {
"rouge1": 0.6666666666666666,
"rougeL": 0.6666666666666666
}
},
"config": {
"embedding_model": "sentence-transformers/distiluse-base-multilingual-cased",
"retriever_type": "mmr",
"retrieval_config": {
"top_k": 3
}
},
"metadata": {
"dataset": "rag-news-test"
}
}
]