A co powiesz na to:
SELECT *
FROM users
ORDER BY RAND()
HAVING RAND() * 1000 < 10
Klauzula WHERE RAND() * 1000 < 10
losowo wybiera uwzględnienie każdego wiersza z prawdopodobieństwem 1%. To nie jest do końca LIMIT variable
klauzuli, ale zrobi mniej więcej to samo.