MMTEB: Massive Multilingual Text Embedding Benchmark
Paper
•
2502.13595
•
Published
•
43
sentence1
string | sentence2
string | labels
int64 |
|---|---|---|
شما آشپز خوبی هستید.
|
از این پس او از شما مراقبت خواهد کرد.
| 0
|
هردوی خواهرانم ازدواج نکرده اند.
|
هیچ یک از دو خواهرم ازدواج نکرده اند.
| 1
|
خود را زیر تخت پنهان ساختم.
|
ممنون. "با کمال میل".
| 0
|
او به فرانسوی صحبت می کند.
|
فردا روز مادران است.
| 0
|
لطفاً این سطل را پر آب کنید.
|
لطفاً آن سطل را پر از آب کنید.
| 1
|
او دلیل غمگینی اش را با بغض بیان کرد.
|
او می خواهد بین همه توافق ایجاد کند.
| 0
|
قیچی من شکست.
|
قیچی من شکسته شد.
| 1
|
زمان را تلف نکن.
|
او به آنها غذا داد.
| 0
|
در میان راه مان به آنجا ماشین خراب شد.
|
آن پیراهن برای من بیش از 40000 ین تمام شد.
| 0
|
او، او را دوست دارد.
|
آیا او جرأت آن را میکند که تنها برود؟
| 0
|
ایشان غالباً توسط پست الکترونیکی با یک دیگر ارتباط برقرار می نمایند.
|
من یک برادر دارم.
| 0
|
اشتیاق پدر تفکر است.
|
میل پدر قکر است.
| 1
|
بعضی ها روز قبل هر جشنی را جشن می گیرند.
|
برخی دیروز هر روز جشنی را جشن می گیرند.
| 1
|
چه چیزی در مدرسه فرامیگیرید؟
|
من فشار خون پائینی دارم.
| 0
|
تمام روز را با مطالعه آن رمان گذراندم.
|
باخ و هندل هم زمان بودند.
| 0
|
مدرسه دو کیلومتر به سمت جلو است.
|
آن مدرسه دو کیلومتر جلوتر است.
| 1
|
پدر دوباره حال شان خوب شده است.
|
پدر سلامتی شان را بازیافتند.
| 1
|
رفیقی دارم که پدرش داستانکوتاهنویس مشهوری است.
|
من با پدر شما آشنا هستم.
| 0
|
ان پسر را نکاه کن.
|
بدون بده بستان کمک کنید.
| 0
|
هنری به اندازه کافی بزرگ شده است تا از خودش مراقبت کند.
|
او موقعیت را با دقت تحلیل کرد.
| 0
|
همه عاشق او و خانواده او هستند.
|
از الکل اجتناب میکنند.
| 0
|
در یک زمان برای دو چیز تلاش نکن.
|
در آن واحد به دنبال دو چیز دویدن، تو را به هیچ کدام نمی رساند.
| 1
|
احتمالاً فردا برف می آید.
|
آیا عاشق موسیقی هستسد؟
| 0
|
تو به طور مکرر اشتباه می کنی.
|
احساس می کنم، که یک چیزی خوب نیست.
| 0
|
آن ها می توتنند همان اجناس را با قیمت پایین تری تولید کنند
|
امروز هجدهم جون و روز تولد مورییل است.
| 0
|
من سیرم، متشکرم.
|
آن کارگران به کارشان افتخار میکردند.
| 0
|
پس از دو روز او بازگشت.
|
او دو روز بعد برگشت.
| 1
|
هیچ عرضهای پایانناپذیر نیست.
|
هیچگونه منبعی تمامنشدنی نیست.
| 1
|
او درب میزد.
|
اشغال است.
| 0
|
دائی من در لندن می زید.
|
رویای او هدایت زندگی اش است به گونه ای که پرتنوع باشد.
| 0
|
حرفم را باور دارید؟
|
آیا به من اعتقاد دارید؟
| 1
|
تام برای عصرانه دیر کرده است.
|
برای عصرانه تام دیر رسید.
| 1
|
بدهیهای خود را بپردازید.
|
اتومبیل من آلمانی است.
| 0
|
در بین راه به آنجا با خرابی خودرو مواجه شدیم.
|
در میان راه مان به آنجا ماشین خراب شد.
| 1
|
مایه تاسف است، که حالش خوب نیست.
|
مجبورم مشغول خرگوشها شوم.
| 0
|
نه هرکسی از آن کتاب خوشاش میآید.
|
دوستم دارید؟
| 0
|
او جرات گفتن حقیقت را ندارد.
|
او شجاعت تعریف کردن حقیقت را ندارد.
| 1
|
من هیچگاه زرافه ندیدم.
|
آن مرا به یاد پدرم می اندازد.
| 0
|
جوانان ژاپنی راک و جاز را خیلی دوست دارند.
|
ترن او کی به کیوتو می رسد؟
| 0
|
آیا لطف می کنید نمک را به من بدهید؟
|
آیا میتوانید آن نمک را به من بدهید؟
| 1
|
من فقط نام او را میدانم.
|
تنها اسم او را میدانم.
| 1
|
من مهندس هستم.
|
ناممکن برای من بیمعناست.
| 0
|
فردا دائی من برای دیدن ما می آید.
|
فردا عمویم برای دیدار ما خواهد آمد.
| 1
|
اگر بخواهم حقیقت رابگویم، من خود را تنها احساس میکردم.
|
این سیب ترش است.
| 0
|
من سالها بود که او را ندیده بودم.
|
این صندلی اینجا چیکار می کنه؟
| 0
|
آن هم سیب است.
|
اینجا خالی است.
| 0
|
قوانین بیشتر، گناه (خطای) بیشتر.
|
هر چه قوانین بیشتر، به همان اندازه جرم بیشتر.
| 1
|
آسیاب که متوقف می شود، آسیابان می جهد.
|
چه چیزی در مدرسه فرامیگیرید؟
| 0
|
حال ما درم خیلی بهتر است.
|
حال مادرم بهتر است.
| 1
|
وظیفه دانشجویان است که کلاس های خود را تمیز کنند.
|
مرا ببخشید پاسخ نامه شما را ندادم.
| 0
|
وقت تنگ است، "هم اکنون" باید اقدام نمائیم.
|
غیر از این چیزی برای گفتن ندارم.
| 0
|
در ابتدا می خواهم از مهمان دوستی شما تشکر کنم.
|
از تک تک شما می خواهم برای مهمان دوستی تان تشکر کنم.
| 1
|
کسی که زیاد دارد حتی می خواهد بیشتر داشته باشد .
|
هر چه بیشتر داشته باشی، بیشتر می خواهی.
| 1
|
من از کاری که انجام دادم، راضی نیستم.
|
از چیزی که انجام دادهام راضی نیستم.
| 1
|
لطفا نمک را به من بده.
|
نمک را به من بده، ممکنه؟
| 1
|
او آهنگسازهای موسیقی کلاسیک را دوست دارد مانند بتهون و باخ.
|
او آهنگسازان کلاسیک مانند بتهوون و باخ را دوست دارد.
| 1
|
آن کار را به متخصصین واگذار کنید.
|
آن کار را به کارشناسان بدهید.
| 1
|
چه چیز این شهر برایتان خوشایند است؟
|
آیا این شهر را دوست دارید؟
| 1
|
او مرد بزرگی بود.
|
در آخر رویای او، طبیب شدن، به واقعیت پیوست.
| 0
|
سلام، من بشیر هستم.
|
او موزیسین عالی ای شد.
| 0
|
به کار احتیاج دارم.
|
کاری لازم دارم.
| 1
|
جای تو پیش ما خالی خواهد بود زمانی که از ما دور خواهی شد.
|
جایت پیش همه ما خالی خواهد بود ،زمانی که دور خواهی شد.
| 1
|
گلویم خشک شده است.
|
گرسنهام بود.
| 1
|
بخندید و چاق باشید.
|
او جائی در این نزدیکی سکونت دارد.
| 0
|
مری در اتاق خودش درس میخواند.
|
پسران زیادی دنبال خرگوش می دویدند.
| 0
|
دوست ندارم جائی بروم.
|
هیچ جائی مایل نیستم بروم.
| 1
|
نه همه دوستدار سکوتاند.
|
من قلم دارم.
| 0
|
حالا تعطیلی ها تمام شده است.
|
شما یک شخص هستید.
| 0
|
یک تصویر به اندازهٔ هزار کلمه میارزد.
|
او بهترین دوست من است.
| 0
|
او آدم بسیار صرفه جوئی است.
|
او تمایل زیادی به پس انداز کردن دارد.
| 1
|
من از پرسیدم، که چرا اینقدر غمگین است.
|
محکومیتش مادام العمر است.
| 0
|
او وانمود کرد که مرا نمی شنود.
|
همسرم سعی میکند بخوابد.
| 0
|
او می بایست در جلوی مردم بیشماری صحبت می کرد.
|
میبایست در مقابل حاضر زیادی سخنرانی کند.
| 1
|
در جشن دیروز او دامنی آبی به تن داشت.
|
آیا شما در خانه می مانید؟
| 0
|
تولدت مبارک، موریل!
|
هیچ سودی بدون ضرر نیست.
| 0
|
او، او را دوست دارد.
|
کسی که بتواند یک تخممرغ بدزدد، میتواند یک گاو هم بدزدد.
| 0
|
او همسایه ما است.
|
وقتی که مشکلی دارد، میل دارد از دائی اش مشورت بگیرد.
| 0
|
یک قاضی باید مطیع قوانین دادگاه باشد نه فرمان شاه.
|
تمایل به کاهلی دارد.
| 0
|
هیچکسی نمی تواند دو کار را به طور هم زمان انچام دهد.
|
من خواص آن را نمی دانم.
| 0
|
تابستان ها دوست دارم بستنی بمکم.
|
دوست دارم در تابستان بستنی بخورم.
| 1
|
چرا غمگینید؟
|
چه چیزی او را این چنین عصبانی کرد؟
| 1
|
این دو شعر رنج بردن انسان را بیان می کنند.
|
مجله ای می خوانم.
| 0
|
اغلب بچهها از اسفناج بدشان میآید.
|
جلسات صبح زود را دوست ندارم.
| 0
|
سکوت علامت رضاست.
|
سکوت نشانهٔ رضاست.
| 1
|
امی فکر کرد بلند شود.
|
امی فکر کرد بر پا شود.
| 1
|
آیا حق دارم از قلم شما استفاده کنم؟
|
آیا میتوانم از خودکارت استفاده کنم؟
| 1
|
مرد پیر نشسته بود و توسط نوه هایش محاصره گشته بود.
|
پیرمردی نشسته بود و توسط نوه هایش احاطه شده بود.
| 1
|
مگ آدم پر حرفی است.
|
مگ بیش اذ حد صحبت میکند.
| 1
|
شیر از نظر کلسیم هم غنی است.
|
شیر سرشار از کلسیم نیز هست.
| 1
|
امروز برای من، فردا برای شما.
|
سرکهٔ نقد به از حلوای نسیه است.
| 1
|
حساب حساب کاکا برادر.
|
قول دِین است.
| 1
|
برای سناش جوان بهنظر میرسد.
|
او نسبت به سنش جوان تر به نظر می رسید.
| 1
|
اما من قادرم به خوبی آشپزی کنم.
|
اما من میتوانم خوب آشپزی کنم.
| 1
|
چه کسی این نامه را نوشته است؟
|
این نامهٔ کیست؟
| 1
|
عموماً آمریکائی ها عاشق قهوه اند.
|
عموم آمریکائی ها قهوه را خیلی دوست دارند.
| 1
|
شما چند خواهر دارید، و چند برادر؟
|
تام الگوی اخلاص است.
| 0
|
اول ببینید، بعداً باور کنید.
|
یکبار که آدم خودش ببیند از صد بار خبر شنیدن ارزشمندتر است.
| 1
|
او دیدار کوتاهی از من داشت.
|
سری به من زد.
| 1
|
امیدوارم همهٔ رؤیاهایت به حقیقت بپیوندند.
|
امیدوارم همهٔ رؤیاهایت محقق شوند.
| 1
|
دیگر عاشق شما نیستم.
|
من دیگر تو را دوست ندارم.
| 1
|
Farsi Paraphrase Detection
| Task category | t2t |
| Domains | None |
| Reference | https://huggingface.co/datasets/alighasemi/farsi_paraphrase_detection |
You can evaluate an embedding model on this dataset using the following code:
import mteb
task = mteb.get_task("FarsiParaphraseDetection")
evaluator = mteb.MTEB([task])
model = mteb.get_model(YOUR_MODEL)
evaluator.run(model)
To learn more about how to run models on mteb task check out the GitHub repository.
If you use this dataset, please cite the dataset as well as mteb, as this dataset likely includes additional processing as a part of the MMTEB Contribution.
@article{enevoldsen2025mmtebmassivemultilingualtext,
title={MMTEB: Massive Multilingual Text Embedding Benchmark},
author={Kenneth Enevoldsen and Isaac Chung and Imene Kerboua and Márton Kardos and Ashwin Mathur and David Stap and Jay Gala and Wissam Siblini and Dominik Krzemiński and Genta Indra Winata and Saba Sturua and Saiteja Utpala and Mathieu Ciancone and Marion Schaeffer and Gabriel Sequeira and Diganta Misra and Shreeya Dhakal and Jonathan Rystrøm and Roman Solomatin and Ömer Çağatan and Akash Kundu and Martin Bernstorff and Shitao Xiao and Akshita Sukhlecha and Bhavish Pahwa and Rafał Poświata and Kranthi Kiran GV and Shawon Ashraf and Daniel Auras and Björn Plüster and Jan Philipp Harries and Loïc Magne and Isabelle Mohr and Mariya Hendriksen and Dawei Zhu and Hippolyte Gisserot-Boukhlef and Tom Aarsen and Jan Kostkan and Konrad Wojtasik and Taemin Lee and Marek Šuppa and Crystina Zhang and Roberta Rocca and Mohammed Hamdy and Andrianos Michail and John Yang and Manuel Faysse and Aleksei Vatolin and Nandan Thakur and Manan Dey and Dipam Vasani and Pranjal Chitale and Simone Tedeschi and Nguyen Tai and Artem Snegirev and Michael Günther and Mengzhou Xia and Weijia Shi and Xing Han Lù and Jordan Clive and Gayatri Krishnakumar and Anna Maksimova and Silvan Wehrli and Maria Tikhonova and Henil Panchal and Aleksandr Abramov and Malte Ostendorff and Zheng Liu and Simon Clematide and Lester James Miranda and Alena Fenogenova and Guangyu Song and Ruqiya Bin Safi and Wen-Ding Li and Alessia Borghini and Federico Cassano and Hongjin Su and Jimmy Lin and Howard Yen and Lasse Hansen and Sara Hooker and Chenghao Xiao and Vaibhav Adlakha and Orion Weller and Siva Reddy and Niklas Muennighoff},
publisher = {arXiv},
journal={arXiv preprint arXiv:2502.13595},
year={2025},
url={https://arxiv.org/abs/2502.13595},
doi = {10.48550/arXiv.2502.13595},
}
@article{muennighoff2022mteb,
author = {Muennighoff, Niklas and Tazi, Nouamane and Magne, Loïc and Reimers, Nils},
title = {MTEB: Massive Text Embedding Benchmark},
publisher = {arXiv},
journal={arXiv preprint arXiv:2210.07316},
year = {2022}
url = {https://arxiv.org/abs/2210.07316},
doi = {10.48550/ARXIV.2210.07316},
}
The following code contains the descriptive statistics from the task. These can also be obtained using:
import mteb
task = mteb.get_task("FarsiParaphraseDetection")
desc_stats = task.metadata.descriptive_stats
{}
This dataset card was automatically generated using MTEB