Nie ma takiej opcji w MariaDB i MySQL. Natknąłem się na ten sam problem, co kilka miesięcy temu, dużo szukałem i w końcu częściowo go rozwiązałem, tworząc specjalny obszar przechowywania na serwerze NAS dla tymczasowych zestawów danych.
Utwórz folder na serwerze NAS lub partycję na wewnętrznym dysku twardym, z definicji będzie on miał ograniczony rozmiar, następnie zamontuj go, a w mysql ini przypisz tymczasowe miejsce do przechowywania do tego dysku:(wybierz albo windows/linux)
tmpdir="mnt/DBtmp/"
tmpdir="T:\"
Po tej zmianie usługa mysql powinna zostać zrestartowana.
Dzięki takiemu podejściu, gdy dysk jest pełny, nadal masz „dziwne problemy” z zapytaniami na dysku, ale inne problemy zniknęły.